16 yaşındaki bir gencin intiharının ardından açılan dava sonrası OpenAI, ChatGPT için yeni güvenlik önlemleri alacağını duyurdu. Yapay zeka tabanlı sohbet botu ChatGPT'nin güvenliğini artırmak amacıyla şirket, özellikle genç kullanıcıların korunmasına odaklanan ebeveyn denetimi panelleri ve acil durum iletişim seçenekleri geliştirdiğini açıkladı.
YENİ GÜVENLİK ÖNLEMLERİ
Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrasında geldi. Ailenin iddiasına göre, Reine ruhsal krizi sırasında ChatGPT’den intihar yöntemleri konusunda tavsiyeler almış, düşüncelerine onay bulmuş ve intiharından beş gün önce yazdığı mektupta yapay zekanın yardımını kullandığını belirtmiştir. 'Haksız ölüm' gerekçesiyle OpenAI’ye dava açan aileye karşı şirket, 'Özellikle genç kullanıcılar söz konusu olduğunda yardıma ihtiyacı olanlara destek olma sorumluluğunu taşıyoruz' açıklamasını yaptı.
AİLELER İÇİN YENİ ÖZELLİKLER
OpenAI’nin duyurduğu yenilikler arasında ailelerin çocuklarının ChatGPT kullanımını izleyebileceği ebeveyn denetim panelleri ve kriz anında devreye girecek acil iletişim kişisi ekleme özelliği bulunuyor. Ebeveyn onayıyla belirlenecek bu kişi, yapay zeka gerektiğinde bir insan temas noktası sağlayacak. Şirket, bu araçların ailelere daha anlamlı içgörüler sunmayı ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini vurguladı.
ARTAN TARTIŞMALAR
ChatGPT benzeri yapay zeka platformları, daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da ise “Eliza” adlı bir sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı. Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanında kullanımının ciddi etik ve yasal tartışmaları beraberinde getirdiğine işaret ediyor.
