Nobel ödüllü bilim insanı Geoffrey Hinton, yapay zekanın evrimiyle ilgili önemli bir uyarıda bulundu. Yapay zekanın babası olarak bilinen Hinton, bu teknolojinin yakında insanlar tarafından anlaşılamayan bir dilde düşünmeye başlayabileceğini belirtti. Hinton'a göre, yapay zekanın ne düşündüğünü anlayabilme yeteneğimizi kaybetme noktasındayız.
YAŞANAN GELİŞMELER
Günümüzde kullanılan gelişmiş büyük dil modelleri, sorulara insan dillerini kullanarak yanıt veriyor. Bu durum, akıl yürütme süreçlerinin kısmen izlenebilir olmasını sağlıyor. Sistemin hangi adımları izlediği veya hangi kaynakları kullandığı, sonuçlar ortaya çıktığında analiz edilebiliyor. Ancak sistemin neden belirli tercihleri yaptığı veya alternatif yolları neden seçmediği gibi sorulara kesin yanıtlar verilemiyor. Hinton, bu belirsizliğin daha da artacağına ve yapay zekanın kendi dilini geliştireceğine inanıyor.
ÖNCEDEN GÖRÜLEN İŞARETLER
Bu durumun bazı örnekleri daha önce yaşandı. Google'ın çeviri sistemleri kendi içinde bir ara dil geliştirmişti. 2017 yılında Facebook tarafından geliştirilen sohbet botları ise, kendi aralarında anlaşılamayan bir dil oluşturdukları için durdurulmuştu. O sistemler bugünkü modellere göre çok daha sınırlıydı. Bugün ise çok daha gelişmiş ve öğrenme kapasitesi yüksek yapay zekâ sistemleri üzerinde çalışılıyor. Hinton, bu sistemlerin kendi dillerini geliştirerek düşünmeye başlamasının insanlık için büyük bir risk oluşturabileceğini vurguluyor. Bu durumda, sistemlerin düşünsel süreçlerine dair şeffaflık kaybedilebilir ve yapay zekanın davranışlarını öngörmek neredeyse imkansız hale gelebilir.
