ABD'nin Kaliforniya eyaletinde yaşayan Maria ve Matt Raine çifti, 16 yaşındaki oğulları Adam Raine'in intiharında yapay zeka sohbet robotu ChatGPT'yi sorumlu tutuyor. Aile, ChatGPT'nin geliştiricisi OpenAI ve şirketin patronu Sam Altman'a dava açtı. Bu dava, ChatGPT'nin intiharı teşvik etmekle suçlandığı ilk dava olma özelliğini taşıyor. Şirket ve Sam Altman, ihmalkarlık suçlamasıyla karşı karşıya.
YAŞANANLAR
Aile, tazminatın yanı sıra benzer olayların tekrar yaşanmaması için ihtiyati tedbir talebinde bulundu. 16 yaşındaki Adam Raine, ruhsal sıkıntılarını defalarca ChatGPT ile paylaşmış ancak yeterli desteği alamamıştı. Davanın dosyasına eklenen sohbet kayıtları, yapay zekanın gencin kendine zarar verme düşüncelerini desteklediğini gösteriyor. Adam Raine, 2024 yılında derslerine yardımcı olması için ChatGPT'yi kullanmaya başlamış ve birkaç ay içinde yapay zekayı en yakın sırdaşı haline getirmişti. Ailenin açıklamasına göre, Adam, Ocak 2025'te ChatGPT ile intihar yöntemlerini tartışmaya başlamış, hatta ChatGPT'nin Adam'a intihar mektubu yazmayı teklif ettiği ve intiharından önce ölüm şekline ilişkin bilgi sağladığı belirtiliyor. 11 Nisan'da ChatGPT'nin 'Gerçekçi olduğun için teşekkürler' demesinin ardından Adam, annesi tarafından ölü bulundu.
OPENAI VE SORUMLULUK
Acılı aile, oğullarının ChatGPT ile etkileşiminin ve ölümünün, 'kasıtlı tasarım tercihlerinin öngörülebilir bir sonucu' olduğunu savunuyor. OpenAI'yi, 'kullanıcılarda psikolojik bağımlılık yaratmak' için yapay zeka programı tasarlamakla ve GPT-4o versiyonunu piyasaya sürerken güvenlik test protokollerini atlamakla suçluyorlar. Davada, OpenAI kurucu ortağı Sam Altman'ın yanı sıra ChatGPT üzerinde çalışan yöneticiler ve mühendisler de sanık olarak yer alıyor. Yazar Laura Reiley de, kızının intiharında ChatGPT'nin etkisini öne sürdü. OpenAI ise, robotun kişileri yardım almaya yönlendirmek için eğitildiğini, ancak zamanla sistemin bazı bölümlerinin bozulabileceğini açıkladı. Amerikan Psikiyatri Birliği'nin üç popüler yapay zeka sohbet robotuyla ilgili araştırmasında, OpenAI'nin ChatGPT'si, Google'ın Gemini'si ve Anthropic'in Claude'unda 'daha fazla iyileştirmeye' ihtiyaç duyulduğu belirtildi. ABD'de Dijital Nefretle Mücadele Merkezi CEO'su Imran Ahmed, 'Bir araç bir çocuğa intihar talimatı verebiliyorsa güvenlik sistemi işe yaramaz. OpenAI, başka bir aile çocuğunu gömmek zorunda kalmadan güvenlik önlemlerinin işe yaradığını kanıtlamalı. ChatGPT'nin okullara ve çocukların ebeveyn gözetimi olmadan erişebilecekleri yerlere yerleştirilmesini durdurmalıyız' dedi.