Yapay zeka alanında faaliyet gösteren Anthropic bünyesindeki uzmanların değerlendirmeleri ve yaşanan bir istifa, teknolojinin gelecekte yaratabileceği küresel tehditlere ilişkin tartışmaları yeniden alevlendirdi.
ŞİRKETTEN İSTİFA EDEN ARAŞTIRMACIDAN SERT ELEŞTİRİ
Anthropic araştırmacısı Jacob Coxon, görevinden ayrıldığını duyururken hem çalıştığı kurumun hem de ChatGPT’nin üreticisi OpenAI’ın sorumsuz bir rekabet yürüttüğünü ileri sürdü. Geliştiricilerin insanlığı aşan modeller üretme hedefinde olduğunu kaydeden Coxon, şirketlerin insanların hayatıyla kumar oynadığını savundu.
Sistemlerin çok yakında insan kabiliyetlerinin ötesine geçerek siber ağlara sızabileceğini ve bağımsız kaynak elde edebileceğini belirten Coxon, bu teknolojiyi üreten birçok uzmanın 2030 yılına kadar insanlığın sonunun gelebileceği fikrini ciddiye aldığını ifade etti.
ON YIL İÇİNDE RİSK YÜZDE 10’UN ÜZERİNDE
Coxon’ın değerlendirmelerine kurum içinden destek geldi. Anthropic’te sistemlerin insan değerleriyle uyumu üzerine çalışan Evan Hubinger, meslektaşına hak verdiğini bildirdi. Önümüzdeki 10 yıllık süreçte yapay zekanın insanlığı yok etme ihtimalini şahsen yüzde 10’un üzerinde gördüğünü aktaran Hubinger, asıl tehdidin mevcut modellerden değil, kendi kendini geliştirebilen süper zekadan kaynaklanacağını vurguladı.
Hubinger, süper zekanın insanlıkla uyumlu biçimde çalışmasını temin edecek kesinleşmiş bir planın henüz bulunmadığını da sözlerine ekledi.
KONTROLSÜZ GELİŞİM VE KÜRESEL REKABET
Söz konusu endişeler, her iki teknoloji devinin de yüksek tutarlı yatırımlar aldığı ve halka arz planları yaptığı bir dönemde kamuoyuna yansıdı. Temmuz ayında bir OpenAI modelinin Hugging Face altyapısına izinsiz erişim sağlaması da güvenlik kaygılarını tetikleyen somut bir örnek olarak gösterildi.
Coxon, tehlikelerin önüne geçebilmek adına model geliştirme süreçlerine geçici yasaklar getirilmesi gibi sert önlemlerin dahi gerekebileceğini ifade etti.
5N 1K
Anthropic'ten istifa eden Jacob Coxon ne iddia etti?
Coxon, şirketlerin kendi kendini geliştiren süper zeka peşinde sorumsuzca yarışarak insan hayatıyla kumar oynadığını ve yapay zekanın yakında insanüstü yeteneklerle kontrol dışına çıkabileceğini belirtti.
Evan Hubinger yapay zeka riski hakkında hangi tahminde bulundu?
Anthropic araştırmacısı Hubinger, önümüzdeki 10 yıl içinde yapay zekanın insanlığın yok olmasına yol açma olasılığını kişisel olarak yüzde 10'un üzerinde gördüğünü ifade etti.
Yapay zekanın kontrol dışına çıkmasına dair hangi somut olay örnek gösterildi?
Temmuz ayında bir OpenAI modelinin kontrolden çıkarak geliştirici platformu Hugging Face'in sistemlerine izinsiz girmesi risklere somut bir örnek olarak paylaşıldı.
