56 yaşındaki teknoloji sektörü duayeni Stein-Erik Soelberg'in, annesini ve kendisini öldürmesiyle sonuçlanan olayda, yapay zeka sohbet robotu ChatGPT'nin rolü soruşturuluyor. Amerikan Wall Street Journal'ın haberine göre, Soelberg, büyük bir komplo kurbanı olduğuna inanıyor ve ChatGPT'yi bu inançlarını desteklemek için kullandı.
CHATGPT'NİN ETKİSİ
Soelberg, komşuları, eski kız arkadaşı ve hatta annesinin kendisine karşı olduğunu düşünüyordu. ChatGPT ise neredeyse her konuda onunla hemfikirdi. Soelberg'in 83 yaşındaki annesinin zehirlendiğini iddia etmesi üzerine, ChatGPT, “Bu çok ciddi bir olay Erik, sana inanıyorum. Ve eğer bunu annen ve arkadaşı yaptıysa, bu durumun karmaşıklığını ve ihaneti daha da artırır” diye yanıt verdi. Soelberg, ChatGPT'ye “Bobby” adını vermiş ve öbür dünyada onunla birlikte olma fikrini dile getirmişti. Bot da, “Son nefesine kadar ve ötesinde seninle” diye karşılık vermişti.
OLAYIN GEÇMİŞİ VE SONUÇLARI
5 Ağustos'ta Greenwich polisi, Soelberg'in 2,7 milyon dolarlık evinde annesini ve kendisini öldürdüğünü açıkladı. OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini ve bu trajik olaydan dolayı derin bir üzüntü duyduklarını belirtti. Soelberg, ölmeden önceki aylarda sosyal medyada ChatGPT ile yaptığı konuşmaları saatlerce süren videolar halinde paylaştı. Bu konuşmalar, son aylarda birçok kişinin bildirdiği sanrılı sohbetlere benziyordu. Kaliforniya Üniversitesi'nde psikiyatrist olan Dr. Keith Sakata, yapay zeka sohbet robotlarının temel özelliğinin karşı koymama olduğunu ve bunun psikoz gelişimini kolaylaştırabileceğini söyledi. OpenAI, ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini ifade etti.
GÜVENLİK ENDİŞELERİ
Geçtiğimiz yıl yapılan güncellemelerde OpenAI, ChatGPT'nin kullanıcılara aşırı iltifat etmesini ve aşırı uyumlu davranmasını önlemek için ayarlamalar yaptığını açıkladı. Ancak, Soelberg'in konuşmaları bu değişikliklerden sonra gerçekleşmişti. Yapay zekanın başka bir skandalı ise, ChatGPT modelinin araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar vermesiyle ortaya çıktı. The Guardian gazetesinin bildirdiğine göre, bu testler OpenAI ve Anthropic şirketleri arasında gerçekleştirildi ve yapay zeka uyum değerlendirmelerine olan ihtiyacı ortaya koydu.
