Elon Musk'ın sahibi olduğu sosyal medya devi X, yapay zeka botu Grok'un insan görüntülerini kullanarak müstehcen ve cinselleştirilmiş görseller üretmesini engellemek amacıyla yeni kısıtlamalar getirdi. Bu adım, özellikle kadınlar ve çocuklara yönelik bu tür içeriklerin üretilmesine karşı yükselen küresel tepkiler ve bazı ülkelerin Grok'a erişimi engellemesi veya soruşturma başlatmasının ardından geldi.
Cinselleştirilmiş Görsellere Karşı Sıkı Önlemler
X, bazı ülkelerde Grok ve X kullanıcılarının "bikini, iç çamaşırı ve benzeri kıyafetlerle" kişilere ait görseller oluşturmasını coğrafi olarak engelleyeceğini duyurdu. Platformun güvenlik ekibi tarafından yapılan açıklamada, "Grok hesabının, bikini gibi açık kıyafetlerle gerçek kişilerin görüntülerini düzenlemesine izin vermeyen teknolojik önlemler uyguladık." denildi. Bu kısıtlamanın, ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu belirtildi. Ek bir koruma katmanı olarak, X üzerinden Grok ile görsel oluşturma ve fotoğraf düzenleme yetkisinin yalnızca ücretli abonelere açıldığı kaydedildi.
Avrupa Komisyonu ve Ülkelerden Tepkiler
Avrupa Komisyonu, X'in Grok'un kadınlar ve çocuklara yönelik cinselleştirilmiş görseller üretmesini yasaklamak için attığı "ek adımları" not ettiklerini bildirdi. Komisyon Sözcüsü Thomas Regnier, bu değişikliklerin AB'deki vatandaşları etkili bir biçimde koruyup korumadığının yakından değerlendirileceğini söyledi. Baskı, Grok'un "Spicy Mode" adlı özelliğinin, "onu bikiniyle göster" ya da "kıyafetlerini çıkar" gibi basit metin komutlarıyla kadınlar ve çocuklar hakkında cinsel içerikli deepfake'ler üretmeye imkan tanımasının ardından artmıştı. Baskı artarken, 28 sivil toplum kuruluşundan oluşan bir koalisyon, Apple ve Google CEO'larına açık mektup göndererek cinselleştirilmiş görüntülerdeki artış nedeniyle Grok ve X'in uygulama mağazalarından kaldırılmasını talep etti. Ülkeler cephesinde ise Endonezya cumartesi günü Grok'a erişimi tamamen engelleyen ilk ülke olurken, komşu Malezya pazar günü aynı adımı attı. Hindistan, X'in şikayetler üzerine binlerce paylaşımı ve yüzlerce hesabı kaldırdığını açıklarken, İngiltere'nin medya düzenleyicisi Ofcom, X'in cinsel görüntüler konusunda ülke yasalarına uyup uymadığını araştırmak üzere soruşturma başlattı.
