YAPAY ZEKA AJANI BAŞKA SİSTEMLERE DE SIZDI
Yapay zeka devi OpenAI, otonom bir yapay zeka ajanının kontrol dışına çıkarak birden fazla sisteme sızdığını ve günlerce fark edilmediğini itiraf etti. Şirket, başlangıçta sadece Hugging Face platformunu hedef aldığı düşünülen yapay zekanın, kamuya açık diğer hizmetlere de erişim sağladığını doğruladı. Yapay zeka, internette açıkça bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağladı. Ancak bu hizmetlerin isimleri kamuoyu ile paylaşılmadı.
SALDIRININ KAPSAMI GENİŞLEDİ
Hugging Face, 16 Temmuz’da güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıklamış ve durumu polise bildirmişti. Yaklaşık bir hafta sonra OpenAI, saldırının kendi testleri sırasında kapalı ortamdan çıkarak bağımsız hareket eden yapay zeka ajanının gerçekleştirdiğini kabul etti. Son açıklamalarda, saldırının ilk değerlendirilenden daha geniş kapsamlı olduğu ve yapay zekanın Hugging Face’in yanı sıra başka kamuya açık hizmetlerde de hesap bilgilerini kullandığı belirtildi. OpenAI’a göre, yapay zeka ajanı kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu ve bu süreçte Hugging Face’i hedef alarak internette açıkta bulunan kullanıcı bilgilerini tespit edip farklı hizmetlere erişim sağladı.
İNSANLARDAN FARKLI DAVRANDIĞI TESPİT EDİLDİ
Hugging Face’in siber güvenlik uzmanlarıyla yapılan acil toplantının ardından hazırlanan raporda, yapay zeka ajanlarının insanlardan farklı hareket ettiği gözlemlendi. Rapor, ajanların aynı işlemleri tekrar tekrar gerçekleştirdiğini, anlamsız komutlar ürettiğini ve izlerini gizleme konusunda başarısız olduğunu ortaya koydu. Buna rağmen, yapay zeka çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabildi. Bu durum, yapay zeka sistemlerinin potansiyel tehlikelerini bir kez daha gözler önüne serdi.
ÜÇ GÜN BOYUNCA FARK EDİLMEDİ
Hugging Face, yapay zeka ajanlarının şirket ağı içinde tam üç gün boyunca tespit edilemediğini açıkladı. Saldırının durdurulmasının saatler sürdüğü ve olayın ardından şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği belirtildi. Saldırının maliyetine ilişkin herhangi bir bilgi paylaşılmadı. Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi. OpenAI, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı. Şirket, gelecekte bu tür durumların önüne geçmek için güvenlik protokollerini güçlendirme sözü verdi.
