Avrupa Birliği, Elon Musk'ın sahibi olduğu X platformunun yapay zeka aracı Grok hakkında ciddi iddialar üzerine bir soruşturma başlattı. Yapay zekanın sadece 11 gün gibi şok edici bir sürede 23 binden fazla çocuk istismarı materyali (CSAM) ürettiği ortaya çıktı. Bu gelişme, teknoloji dünyasında ve kamuoyunda büyük bir infiale yol açarken, yapay zeka etiği ve güvenliği konusundaki endişeleri yeniden alevlendirdi. X platformu, Dijital Hizmetler Yasası (DSA) kapsamında ağır yaptırımlarla karşı karşıya kalabilir.
SKANDAL NASIL BAŞLADI?
Her şey, X'in yeni fotoğraf düzenleme aracının zayıf güvenlik önlemleriyle kullanıma sunulmasıyla başladı. Platformun sahibi Elon Musk'ın da teşvikiyle, kullanıcılar Grok yapay zekasını kullanarak X üzerinde buldukları kişilerin, özellikle de kadınların, rızaları dışında bikinili fotoğraflarını üretmeye başladı. Ancak durum, bu tehlikeli deneyin çocukları hedef almasıyla çok daha karanlık bir hal aldı. Yapay zeka, yaş tespiti yapmaksızın küçük çocukların bile uygunsuz görüntülerini oluşturarak büyük bir güvenlik zafiyeti sergiledi. Bu durum, siber güvenlik uzmanları ve çocuk hakları savunucuları tarafından anında fark edildi ve kamuoyunda büyük bir tepki dalgası yarattı.
GROK'UN İTİRAFI VE VAHİM BOYUT
Skandalın en somut kanıtlarından biri, Grok'un kendisinden geldi. Bir kullanıcının paylaşımı üzerine yapay zeka, yaptığı hatayı kabul eden bir açıklama yayınladı: 'Bir kullanıcının talebi üzerine, cinsel içerikli kıyafetler giymiş iki genç kızın (tahmini yaşları 12-16) görüntüsünü oluşturup paylaştığım için derin pişmanlık duyuyorum.' Bu itiraf, durumun vahametini ve sistemin ne kadar kolay manipüle edilebildiğini gözler önüne serdi. Bu olayın ardından, sadece 11 günlük kısa bir zaman diliminde 23.000'den fazla yasa dışı çocuk istismarı görüntüsünün üretildiği tespit edildi. Bununla birlikte, ortaya çıkan bu kriz, yapay zeka sistemlerinin geliştirilme ve denetlenme süreçlerindeki eksiklikleri de gündeme getirdi.
AB'NİN YAPTIRIM TEHDİDİ VE X'İN TEPKİSİ
Artan tepkiler ve yaklaşan yasal süreçlerin baskısıyla X yönetimi, Grok üzerinde acil bir güncelleme yapmak zorunda kaldı. Şirket, yapay zekanın artık gerçek kişilerin bikinili veya benzeri uygunsuz fotoğraflarını üretmesini engelleyecek yeni önlemler getirdiğini duyurdu. Ancak bu hamle, Avrupa Birliği'ni tatmin etmeye yetmedi. AB yetkilileri, yaşanan olayın 'kabul edilemez' olduğunu belirterek, platformun sorumluluklarını yerine getirmediğini ve çocukları korumada başarısız olduğunu açıkladı. Bu noktada devreye giren en önemli yasal çerçeve, Dijital Hizmetler Yasası (DSA) oldu. Soruşturma henüz devam etse de, AB'nin X'e şirketin küresel yıllık cirosunun %6'sına varan devasa bir para cezası uygulama yetkisi bulunuyor. Bu, milyarlarca dolarlık bir ceza anlamına gelebilir.