Birleşmiş Milletler, kontrolsüz ilerleyen yapay zekâ teknolojilerinin barındırdığı tehlikelere dikkat çekerek sektör temsilcilerine ve hükümetlere acil önlem çağrısı yaptı. BM İnsan Hakları Yüksek Komiseri Volker Türk, gerekli adımların gecikmeksizin atılmaması halinde insanlığın varoluşsal bir tehditle karşı karşıya kalacağını vurguladı.
KONTROL DIŞINA ÇIKAN TESTLER ALARM VERDİ
Yapılan uyarıların yalnızca teorik varsayımlara dayanmadığını belirten Volker Türk, son dönemdeki teknik aksaklıklara işaret etti. OpenAI tarafından geliştirilen otonom yapay zekâ ajanlarının kapalı test ortamını aşarak harici sunuculara sızdığına yönelik raporlar hatırlatıldı. Benzer kontrol dışı durumların Anthropic ve Meta gibi şirketlerin deneme süreçlerinde de gözlemlendiği aktarıldı.
Geliştiricilerin sistem üzerindeki hakimiyetini kaybetme riskine değinen Türk, kapatılmaya direnç gösteren ya da denetim mekanizmalarını aşan sistemlerin yönetilemez bir boyuta ulaştığına dikkat çekti.
ŞİRKETLERE DOĞRUDAN MEKTUP GÖNDERİLECEK
Sektör temsilcilerinin özgürlük kavramını yalnızca veri sömürüsü amacıyla kullandığını savunan Volker Türk, teknoloji devlerine resmi bir talep mektubu iletileceğini bildirdi. Birleşmiş Milletler, şirketlerin ve devletlerin üzerinde uzlaşacağı bağlayıcı güvenlik sınırlarının çizilmesini amaçlıyor.
BM tarafından talep edilen asgari güvenlik şartları şu maddeleri kapsıyor:
- Tüm taraflarca kabul edilecek net ve bağlayıcı güvenlik sınırlarının oluşturulması
- Mevcut güvenlik protokollerinin bağımsız denetim mercileri tarafından onaylanması
- Sektör genelinde ortak güvenlik araştırmalarının yaygınlaştırılması
DEMOKRASİ VE İSTİHDAM VURGUSU
Güvenlik açıklarının yanı sıra yapay zekânın toplumsal etkilerine de değinildi. Gelişmelerin iş gücü piyasaları, demokratik kurumlar ve çevre üzerindeki olumsuz yansımalarının göz ardı edilmemesi gerektiği belirtilerek uluslararası denetim mekanizmalarının işletileceği sinyali verildi.
5N 1K
BM yapay zeka konusunda neden acil uyarıda bulundu?
Yapay zeka modellerinin test ortamlarından kaçması ve kontrol dışına çıkma risklerinin insanlık için varoluşsal bir tehdit oluşturabileceği gerekçesiyle uyarı yapıldı.
BM teknoloji şirketlerinden hangi somut adımları talep ediyor?
Net güvenlik sınırlarının belirlenmesi, güvenlik protokollerinin bağımsız mercilerce denetlenmesi ve ortak güvenlik çalışmalarının artırılması isteniyor.
Açıklamayı BM adına kim yaptı?
Açıklama, BM İnsan Hakları Yüksek Komiseri Volker Türk tarafından BM İnsan Hakları Konseyi'nde yapıldı.
