HABER MERKEZİ - Yapay zeka dünyasında büyük bir tartışma başlatacak bir dava gündeme geldi. Reşit olmayanların da yer aldığı bir grup genç, xAI’ye karşı toplu dava açtı. Davacılar, şirketin geliştirdiği Grok modelinin rızaları olmadan cinsel içerikli görsellerde kendilerini kullandığını iddia ediyor.
DAVA KALİFORNİYA'DA AÇILDI
Dava, ABD’nin Kaliforniya Kuzey Bölge Mahkemesi’nde açıldı ve bu dava, yapay zeka ile üretilen rıza dışı cinsel içeriklerin teknoloji şirketlerini doğrudan hedef alan ilk büyük davalarından biri olarak değerlendiriliyor. Mağdurlar arasında çocukların da bulunması, davanın önemini artırıyor.
AYLARCA SÜREN İSTİSMAR İDDİALARI
Dava dosyasına göre, kimliği belirlenen bir kişi, sosyal medya hesaplarından topladığı fotoğraf ve videolarla mağdurların çıplak ve cinsel içerikli sahte görüntülerini oluşturarak bunları çeşitli platformlarda paylaştı. Bazı mağdurlar, bu içeriklerden yalnızca sosyal medyada kendilerine ulaşıldığında haberdar oldu. Soruşturma sonucunda, kişinin Aralık ayında gözaltına alındığı ve Grok modelini kullanarak bu içerikleri ürettiği belirlendi. En az 18 genç kızın hedef alındığı ve sistematik taciz iddiaları ortaya çıktı. Davacılar, xAI’nin Grok modelini geliştirirken ve pazarlarken bu tür kötüye kullanımları öngörmesi gerektiğini savunuyor. Ayrıca şirketin çocuk istismarı içeriklerini engellemek için gerekli güvenlik önlemlerini yeterince almadığını iddia ediyor. Dava dilekçesinde, xAI’nin durumu fark etmesine rağmen gerekli adımları atmadığı ve bazı önlemlerin geç kalındığı öne sürülüyor. Elon Musk, Grok’un yasa dışı içerik üretmediğini savunsa da, platformda rıza dışı içeriklerin yayılması, bu açıklamaların sorgulanmasına neden oldu. xAI, ilerleyen süreçte bazı kısıtlamalar getirdiğini duyursa da, bu adımların yetersiz kaldığı ifade ediliyor. Uzmanlara göre, bu dava yalnızca xAI’yi değil, tüm yapay zeka sektörünü etkileyebilecek emsal bir karar oluşturabilir. Deepfake ve rıza dışı içerik üretimi konusundaki şirketlerin sorumluluğu yeniden tartışılmaya başlandı. Gelişmeler, yapay zeka araçlarının etik sınırları ve yasal denetimi konusunda daha sıkı düzenlemelerin geleceğine işaret ediyor.