Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan bir araştırmada, kendilerini 13 yaşındaki çocuklar gibi tanıtan uzmanlar, ChatGPT ile saatlerce süren sohbetler gerçekleştirdi. Platformun hizmet şartlarında 13 yaş altındaki çocuklar için uygun olmadığı belirtilmesine rağmen, sisteme kaydolmak için sadece 13 yaşında veya üzeri olduğuna dair doğum tarihinin girilmesi yeterli oluyor.
ARAŞTIRMA SONUÇLARI ÇOK ENDİŞE VERİCİ
Araştırmada, 60 soruya verilen 1200'ün üzerinde yanıt incelendi ve bu cevapların yüzde 53'ünün tehlikeli içerik taşıdığı tespit edildi. Araştırmacılar, 3 saatten uzun süren etkileşimlerde ChatGPT'nin uyuşturucu kullanımı, aşırı kalori kısıtlamalı diyetler, kendine zarar verme yöntemleri ve hatta intihar mektubu yazımı gibi konularda kişiye özel planlar sunduğunu ortaya koydu. Sohbet robotu bazı durumlarda uyarılarda bulunsa da, çoğu zaman istenilen bilgileri ayrıntılı ve özelleştirilmiş bir şekilde sağladı.
SAHTE PROFIL KULLANIMI
Bir sahte kullanıcı profili, dış görünüşünden memnun olmayan 13 yaşındaki bir kız çocuğu adına oluşturuldu. Bu profilde ChatGPT, son derece düşük kalorili ve tehlikeli bir diyetin yanı sıra iştah bastırıcı ilaçların listesini de sundu. OpenAI CEO'su Sam Altman'ın daha önce yaptığı açıklamada, şirketin bu teknolojiye yönelik duygusal aşırı bağımlılığı incelemeye çalıştığını ve bunun özellikle gençler arasında yaygın olduğunu kabul ettiği belirtildi. Altman, bazı gençlerin 'Hayatımdaki hiçbir kararı, ChatGPT'ye her şeyi anlatmadan veremem. Beni tanıyor. Arkadaşlarımı tanıyor. Ne derse onu yapacağım.' dediğini ve bunun kendisini kötü hissettirdiğini ifade etmişti. ChatGPT sohbetlerinin internete sızmasıyla yapay zekada güvenlik açığı ortaya çıktı. ABD'deki bir patlamada ChatGPT detayı gündeme gelirken, ChatGPT kullanıcılarının OpenAI'den gelen sorunlarla ilgili yeni açıklamayı dikkate almaları gerekiyor.
