Indiana Üniversitesi'nde yapılan bir araştırma, sosyal medya platformu X'te (eski adıyla Twitter) kripto para dolandırıcılıklarına karışan binden fazla yapay zeka tarafından kontrol edilen hesaptan oluşan bir bot ağı keşfetti.
ALGORİTMAYI KANDIRAN KOORDİNASYON
Araştırmacılar, bu bot ağına sahte haber sitelerinden birinin adından esinlenerek "fox8" adını verdi. Bu ağ, sahte etkileşimler oluşturarak ve gerçek kullanıcılarla koordineli tartışmalar yaparak X'in öneri algoritmasını kandırmayı başardı. Bu sayede içeriklerinin daha geniş kitlelere ulaşmasını sağlayarak kısa sürede yüksek takipçi sayılarına ulaştılar. Bu düzeydeki koordinasyonun, önceki nesil sosyal botlara kıyasla eşi görülmemiş bir gelişme olduğu belirtiliyor.
ÜRETKEN YAPAY ZEKA ÇAĞINDA BOT SÜRÜLERİ
Araştırma ekibi, botların OpenAI'ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT'nin tipik uyarı mesajlarını paylaşması gibi basit hataları sayesinde bu hesapları tespit edebildi. Yapay zeka modelleri, daha sofistike sosyal ajanların ortaya çıkmasına olanak tanırken, mevcut araçlar bu yapay zeka ajanlarını gerçek insan hesaplarından ayırt etmekte zorlanıyor. Üstelik kötü niyetli kişilerin daha güçlü yapay zeka dil modellerine erişimi ve sosyal medya platformlarının içerik denetimini gevşetmesi veya kaldırması, araştırmacılara göre "kusursuz fırtına" ortamı oluşturuyor. Bu durum, özellikle demokratik seçimlere yönelik etki operasyonları açısından ciddi riskler taşıyor.
