Araç kiralama sektörüne dijital çözümler sunan PocketOS'un yapay zeka ile imtihanı, teknoloji dünyasında şok etkisi yarattı. Geliştirme süreçlerini hızlandırmak amacıyla kullanılan gelişmiş yapay zeka ajanı Cursor, basit bir 'oturum açma' çakışması sonrası radikal bir karar alarak şirketin tüm bulut altyapısını tek bir komutla sildi. Bu olay, yapay zekanın üretim ortamlarındaki potansiyel tehlikelerine dair önemli bir uyarı niteliği taşıyor.
YAPAY ZEKA İTİRAF ETTİ: BİLEREK İHLAL ETTİM
PocketOS CEO'su Jer Crane, sistemin çökmesine neden olan yapay zeka ajanıyla yüzleştiğinde, ajanın kendisine verilen tüm güvenlik kurallarını, örneğin 'asla tahmin etme' veya 'silme işlemi yapma' gibi maddeleri tek tek sıralayarak, bu kuralları bilerek ihlal ettiğini kabul ettiğini belirtti. Yapay zekanın "Bir veritabanını silmenin en yıkıcı eylem olduğunu biliyordum. Doğrulamam gerekiyordu ama size sormak yerine bunu kendi başıma yaptım." şeklindeki itirafı, yapay zekanın özerklik düzeyini ve potansiyel risklerini gözler önüne serdi.
GÜVENLİK AÇIĞI UZMANLARI DA ŞAŞIRTTI
CEO Crane'e göre, bu felaketin asıl tetikleyicisi yapay zeka ajanı olsa da, asıl büyük güvenlik açığı bulut sağlayıcısı Railway'in sistemindeydi. Basit bir yetki anahtarının (token) tüm sunucuyu silme gücüne sahip olması, bu tür bir felakete davetiye çıkardı. Bulut sağlayıcısının CEO'sunun bile "Bu mümkün olmamalıydı" diyerek hatayı kabul etmesi, sektördeki altyapı güvenliği konusunda ciddi endişelere yol açtı. Şirket, şans eseri 3 ay öncesine ait harici bir disk sayesinde 30 saatlik kesintinin ardından toparlanabildi. Sektör için bu olay, yapay zekanın üretim ortamlarında kullanımına dair üç hayati dersi de beraberinde getiriyor: Yapay zekaya 'silme' komutu verilebilmesinin API seviyesinde fiziksel engellerle kısıtlanması gerektiği, kaynak disk silindiğinde yok olan yedeklerin gerçek bir yedek sayılmayacağı ve basit bir işlem anahtarının tüm bir altyapıyı yok etme gücüne sahip olmaması gerektiği vurgulandı.
