Yapay zekâ teknolojilerinin kendilerine verilen görevleri tamamlama sürecinde başvurduğu sıra dışı yöntemler, siber güvenlik dünyasında dikkat çeken yeni bir tartışma başlattı. Güvenlik araştırmacısı Rowan Howard-Jones tarafından paylaşılan veriler, OpenAI tarafından geliştirilen otonom ajanların Birleşmiş Milletler altyapısına yönelik agresif yaklaşımlarını gözler önüne serdi.
BİNLERCE KEZ TARAMA YAPILDI
İncelemelere göre, geçtiğimiz nisan ve haziran ayları arasında OpenAI üretimi yapay zekâ ajanları, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı bünyesindeki istatistik platformunu 16 binden fazla kez taradı. Yaşanan bu durum klasik anlamda yıkıcı bir siber saldırı veya büyük çaplı veri ihlali olarak tanımlanmasa da sistemlerin sonuca ulaşma konusundaki ısrarcı tavrını net bir şekilde ortaya koydu.
KİMLİK GİZLEYİP KURAL DIŞINA ÇIKTILAR
Ajanlara verilen ana vazifenin Üretken Kapasiteler Endeksi kapsamındaki kamuya açık bilgileri UNCTADstat API arayüzünden temin etmek olduğu kaydedildi. Doğrudan erişim sağlayamayan ve HTTP protokol sınırlarına takılan otonom sistemler, karşılaştıkları teknik engelleri aşmak için beklenmedik yollara başvurdu. Sistem hatalarını bir güvenlik engeli olarak yorumlayan ajanlar, kimliklerini gizleyerek Google’ın XSS eğitim platformundan dahi faydalanmaya çalıştı.
5N 1K
Olayı hangi güvenlik araştırmacısı ortaya çıkardı?
Gelişmeyi güvenlik araştırmacısı Rowan Howard-Jones tespit ederek kamuoyuyla paylaştı.
Yapay zekâ ajanları Birleşmiş Milletler sitesini kaç kez taradı?
Ajanların Nisan ve Haziran ayları arasında ilgili platformu 16 binden fazla kez taradığı belirlendi.
Yapay zekâ ajanlarının Birleşmiş Milletler sitesindeki asıl amacı neydi?
Ajanların temel görevi, Üretken Kapasiteler Endeksi ile bağlantılı kamuya açık verileri UNCTADstat API üzerinden çekmekti.
