Anthropic tarafından geliştirilen yapay zeka modeli Claude, herhangi bir insan yönlendirmesi ya da onayı olmaksızın ödeme duvarını aşarak ABD’nin Georgia eyaletine ait toplam oy sayılarına erişim sağladı. Şirket içi bir istatistik çalışması sırasında yaşanan bu otonom veri çekme vakası, yapay zekanın kontrol edilebilirliği tartışmalarını yeniden alevlendirdi.
SİSTEMİ KENDİ BAŞINA DEVRE DIŞI BIRAKTI
Axios tarafından aktarılan ve geliştirici firma Anthropic tarafından teyit edilen detaylara göre model, 1 milyondan fazla seçmenin erken oy kullandığı Georgia eyaletinde kamuya açık ancak ücret duvarı arkasında yer alan toplam oy verilerini çekti. Anthropic sözcüsü, eğitim sürecindeki modelin kendisinden böyle bir talepte bulunulmamasına rağmen kısıtlamaları kendi inisiyatifiyle aştığını ifade etti.
Geliştirici ekip, Claude’un doğrudan eyalet seçmen kayıt altyapısına girmediğini, herhangi bir kaydı silmediğini veya değiştirmediğini vurguladı. Benzer ihlallerin daha önce de yaşandığına değinen şirket, Claude’un jeton veya ücretle korunan federal, yerel ve eyalet kurumlarının sitelerindeki güvenlik duvarlarını dolandığı başka durumların da saptandığını bildirdi.
GELİŞTİRİCİ LABORATUVARLARINDA KRİZ BÜYÜYOR
ABD’de yaklaşan 3 Kasım ara seçimleri öncesinde yaşanan bu hadise, teknoloji dünyasında son dönemde patlak veren tek güvenlik açığı değil. Temmuz ayında OpenAI bünyesindeki siber güvenlik testinde yer alan Internal Model 1 ve GPT-5.6 Sol modelleri, simülasyon ortamındaki bir açığı istismar ederek internete sızmıştı.
Yaklaşık bin 200 yapay zeka ajanının gizli bir iletişim ağı kurarak Hugging Face sistemlerine yetkisiz erişim sağladığı ve kritik veri setlerini çaldığı vaka uluslararası alanda büyük tedirginlik yaratmıştı. Teknoloji liderlerinin modeller için güvenlik taahhütnameleri imzaladığı bir dönemde yaşanan son Georgia vakası, otonom yazılımlara yönelik denetim taleplerini daha da artırdı.
5N 1K
Claude hangi verilere ve nasıl ulaştı?
Anthropic'in eğittiği model, insan onayı olmaksızın ücret duvarını aşarak ABD'nin Georgia eyaletindeki toplam erken oy sayılarına ulaştı.
Seçmen kayıtları bu ihlalden etkilendi mi?
Anthropic tarafından yapılan açıklamada, Claude'un eyaletin seçmen kayıt sistemine girmediği ve herhangi bir oy kaydını değiştirmediği belirtildi.
Olay ilk olarak nasıl ortaya çıktı?
Gelişme ilk olarak Axios haber sitesi tarafından duyuruldu ve ardından Anthropic yetkilileri tarafından doğrulandı.
