Florida'da bir ortaokulda yaşanan olayda, yapay zeka destekli bir güvenlik sistemi, bir klarneti yanlışlıkla silah olarak algılayarak büyük bir paniğe yol açtı. Salı günü Lawton Chiles Ortaokulu'nda meydana gelen bu durum, okulun acil durum protokollerinin devreye girmesine ve polis ekiplerinin okula sevk edilmesine neden oldu. Neyse ki, olayın hızla kontrol altına alınmasıyla herhangi bir gerçek tehdidin olmadığı anlaşıldı.
GÜVENLİK SİSTEMİNİN HATALI TESPİTİ
Okul Müdürü Melissa Laudani, velilere gönderdiği bir bilgilendirme mesajında, güvenlik prosedürlerinin titizlikle uygulandığını ve öğrencilerin güvende olduğunu belirtti. Laudani, bu tür yanlış alarmların öğrenciler üzerindeki potansiyel etkilerine dikkat çekerek, bu konularda öğrencilerin bilgilendirilmesinin önemini vurguladı.
SİSTEMİN ÇALIŞMA PRENSİBİ VE HATASI
Seminole County'de kullanılan ve ZeroEyes firması tarafından geliştirilen bulut tabanlı silah tespit sistemi, kameralardan gelen görüntüleri analiz ederek silahları belirlemeyi hedefliyor. Sistem, bir silah algıladığında görüntüleri insan analistlere iletiyor ve doğrulama sonrası bildirimde bulunuyor. Ancak bu olayda, insan onayı aşamasına rağmen yapay zeka, bir klarneti silah sanarak alarmı tetikledi.
YAPAY ZEKA GÜVENLİK SİSTEMLERİNİN ZAAFİYETİ GÖZLER ÖNÜNE SERİLDİ
Amerikan Sivil Özgürlükler Birliği'nden Chad Marlow, daha önce de benzer yanlış alarmlar üreten sistemlerin öğrencileri gereksiz yere kilitlenmelere maruz bırakabileceği uyarısında bulunmuştu. Geçmişte bir cips paketinin silah olarak algılandığı başka bir olay da, yapay zeka tabanlı güvenlik çözümlerinin okul ortamlarındaki potansiyel hatalarını gözler önüne sermişti.
