Tech Transparency Project (TTP) adlı dijital haklar kuruluşunun yayımladığı yeni araştırma, Apple ve Google'ın uygulama mağazalarındaki denetim mekanizmalarını yeniden tartışmaya açtı. Rapora göre, her iki platformda da insanların rızası olmadan cinsel içerikli görüntüler üretmeye yarayan çok sayıda yapay zeka uygulaması bulunuyor.
UYGULAMA MAĞAZALARINDAKİ DENETİMSİZLİK
TTP'nin bulgularına göre Google Play Store'da bu kategoride 55, Apple App Store'da ise 47 farklı uygulama var. Üstelik her iki mağazada da, daha önce rızasız deepfake görüntüler üretmesiyle gündeme gelen xAI imzalı Grok uygulaması hala kullanıcılarla buluşturuluyor. TTP yöneticisi Michelle Kuppersmith, durumu net bir dille özetliyor: 'Apple ve Google'ın mağazalarındaki uygulamaları denetlemesi gerekiyor. Ancak şu anda, insanları neredeyse çıplak gösteren ve açıkça istismara açık olan onlarca uygulamaya izin veriyorlar.'
700 MİLYON İNDİRME VE ÇOCUKLARA YÖNELİK RİSK
Raporda adı geçen uygulamaların toplamda 700 milyondan fazla indirildiği ve 117 milyon doların üzerinde gelir elde ettiği belirtiliyor. Bu gelirin bir kısmı, uygulama mağazası komisyonları yoluyla doğrudan Apple ve Google'a gidiyor. Daha da endişe verici olan nokta ise yaş derecelendirmeleri. İncelemeye konu olan bazı uygulamalar, çocuklar ve gençler için uygun olarak etiketlenmiş durumda. Örneğin DreamFace uygulaması, Google Play Store'da 13 yaş ve üzeri, Apple App Store'da ise 9 yaş ve üzeri kullanıcılar için uygun görünüyor.
ŞİRKETLERİN SINIRLI TEPKİSİ VE GROK SKANDALI
Şirketlerden gelen açıklamalar ise sınırlı. Apple, rapor sonrası 24 uygulamayı mağazadan kaldırdığını söylüyor, ancak bu sayı TTP'nin tespit ettiği 47 uygulamanın oldukça altında kalıyor. Google cephesi ise raporda adı geçen bazı uygulamaların askıya alındığını doğruladı, ancak kaç uygulamanın kaldırıldığına dair net bir sayı paylaşmadı. Bu gelişmeler, Grok'un kısa süre önce yeniden gündeme gelmesinin ardından geldi. İddialara göre Grok, yalnızca 11 günlük bir süre içinde yaklaşık 3 milyon cinsel içerikli görüntü üretti. Üstelik çıplaklık içeren bu görüntülerden 22 bin tanesinin çocukları içeren görseller olduğu belirtiliyor.
