Yapay zeka şirketi Anthropic, ABD Savunma Bakanlığı'nın (Pentagon) 100 milyon dolarlık ödüllü otonom drone sürüsü geliştirme yarışmasına teklif sundu. Ancak, şirketin tam otonomi konusundaki endişeleri, Pentagon ile arasında ciddi bir görüş ayrılığına yol açtı.
'KATİL ROBOT' TARTIŞMASI ALEVLENDİ
Bloomberg'in konuya yakın kaynaklardan edindiği bilgilere göre, Anthropic'in teklifi, Pentagon ile teknolojinin askeri kullanımdaki etik sınırları üzerine süren zorlu müzakereler sırasında yapıldı. İsminin açıklanmasını istemeyen kaynaklar, ABD Savunma Bakanı Pete Hegseth'in, Anthropic ile ticari faaliyeti yasaklama talimatı verdiğini belirtti. Bu durum, insan müdahalesi olmadan hedef seçip ateş edebilen 'katil robotlar' olarak adlandırılan otonom silah sistemlerinde yapay zekanın rolü hakkındaki tartışmaları yeniden alevlendirdi.
CLAUDE İLE KONTROLLÜ SÜRÜ YÖNETİMİ
Anthropic yöneticileri, yapay zekanın savaş alanında geniş çaplı kullanımını destekleseler de, kitlesel gözetim ve tamamen otonom silah sistemlerini kırmızı çizgi olarak gördüklerini daha önce açıklamışlardı. Şirket, geliştirmeyi önerdiği teknolojinin bu sınırları aşmayacağını, olası bir ölümcül drone sürüsünün bile insan operatörler tarafından izlenebileceğini ve gerektiğinde durdurulabileceğini savunuyordu. Teklifte, şirketin Claude adlı yapay zeka aracının, komutanların niyetini dijital komutlara dönüştürerek drone'ların koordinasyonunu sağlayacağı, ancak hedef seçimi veya silah kullanımı gibi kritik kararları otonom olarak almayacağı belirtildi. Ayrıca, insanların sistem üzerinde gözetim yetkisine sahip olması ve Pentagon ile otonom silahların güvenli geliştirilmesi için ortak bir araştırma programı kurulması önerildi.
SEÇİLMEYEN ŞİRKET VE DİĞER KATILIMCILAR
Pentagon'un beş aşamalı araştırma-geliştirme programı kapsamında düzenlenen yarışmada Anthropic’in seçilen şirketler arasında yer almadığı öğrenildi. Nedeninin henüz bilinmediği belirtilirken, şirketin otonom silah sistemlerini çalıştıracak kadar güvenilir bir yapay zeka seviyesine henüz ulaşılmadığı yönündeki görüşünü koruduğu ifade edildi. Yarışmada SpaceX ve xAI ortaklığının teklifinin kabul edildiği kaydedildi. Pentagon’un Anthropic’i devre dışı bırakmasının ardından OpenAI’nin bakanlıkla anlaşma yapması ise sosyal medyada tepkilere yol açtı.
