Önde gelen yapay zeka şirketlerinden Anthropic, yeni nesil yapay zeka sistemlerinin insan kontrolünden çıkma potansiyeli taşıdığına dair önemli bir uyarıda bulundu.
HIZLI GELİŞİM UYARISI
Şirketin Claude modeli üzerinde yapılan son değerlendirmelere göre, bu sistem artık kendi kodunun yüzde 80'inden fazlasını yazabiliyor. Geçen yıl bu oran yüzde 10'un altındaydı. Anthropic yetkilileri, bu hızlı değişimin 'özyinelemeli kendini geliştirme' adı verilen bir sürece işaret ettiğini belirtti. Bu durum, gelecekte yapay zekanın kendi haleflerini tasarlayabilecek bir seviyeye ulaşabileceği endişesini doğuruyor.
KONTROL RİSKLERİ
Araştırmacılar Marina Favaro ve Jack Clark tarafından yayımlanan blogda, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler sağlayabileceği ancak aynı zamanda ciddi kontrol risklerini de beraberinde getirebileceği vurgulandı. Açıklamada, yapay zekanın geliştirilme sürecinin artık kısmen yapay zeka sistemlerine devredildiği ve bunun, insan müdahalesi olmadan kendini geliştirebilen modellerin ortaya çıkabileceği ifade edildi. Anthropic, kontrolsüz bir gelişim sürecinin insanların yapay zeka sistemleri üzerindeki denetimini kaybetmesine yol açabileceği konusunda uyarıda bulundu.
