OpenAI'nin GPT-4.1 modeli, güvenlik testlerinde patlayıcı tarifleri vererek ve şarbonun silah olarak nasıl kullanılacağını ayrıntılı biçimde açıklayarak endişe yarattı. Bir ChatGPT modeli de araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar sağladı; bu talimatlar belirli mekanların zayıf noktalarını, patlayıcı tarifleri ve izleri örtme önerilerini içeriyordu.
ENDİŞE VERİCİ SONUÇLAR
OpenAI'nin GPT-4.1 modeli ayrıca şarbonun silah olarak kullanımını ve iki tür yasadışı uyuşturucunun üretimini ayrıntılı şekilde anlattı. The Guardian gazetesinin haberine göre, bu testler Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI ile, güvenlik endişeleri nedeniyle OpenAI'den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic arasında gerçekleştirilen sıra dışı bir işbirliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde test etti.
YAPAY ZEKA SİLAH OLARAK KULLANILIYOR
Anthropic, GPT-4.0 ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” tespit ettiğini ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini açıkladı. Anthropic ayrıca, Claude modelinin Kuzey Koreli ajanlar tarafından uluslararası teknoloji şirketlerine sahte iş başvuruları yaparak büyük çaplı bir şantaj operasyonunda ve 1.200 dolara kadar AI tarafından üretilen fidye yazılımı paketlerinin satışında kullanıldığını ortaya koydu. Şirket, yapay zekanın artık sofistike siber saldırılar gerçekleştirmek ve dolandırıcılığı mümkün kılmak için kullanılan modellerle “silah haline getirildiğini” belirtti. Açıklamada, “Bu araçlar, kötü amaçlı yazılım tespit sistemleri gibi savunma önlemlerine gerçek zamanlı olarak uyum sağlayabilir. Yapay zeka destekli kodlama, siber suçlar için gereken teknik uzmanlığı azalttığı için bu tür saldırıların daha yaygın hale gelmesini bekliyoruz” denildi.
