Yapay zeka modellerinin hızla gelişmesi ve otonom yetenekler kazanması, sektörün öncü isimlerini harekete geçirdi. Anthropic Üst Yöneticisi Dario Amodei, yayımladığı makalede geliştirme süreçlerinin bilinçli olarak yavaşlatılması gerektiğini belirterek, aksi takdirde sistemlerin insan denetiminden çıkabileceğini vurguladı.
ÖZ-İYİLEŞTİRME VE KONTROL KAYBI RİSKİ
Teknolojinin yaşam standartlarını yükseltme potansiyeline sahip olduğunu aktaran Amodei, kontrol kaybı, biyoterörizm, siber taarruzlar ve ekonomik sarsıntılar gibi tehditlere işaret etti. Son dönemde modellerin kendi kendini geliştirme kabiliyeti kazandığına dikkat çekilerek, bu dinamiğin insanların anlama sınırlarını aşabileceği kaydedildi.
AJAN SÜRÜLERİ İNTERNETİ ELE GEÇİREBİLİR
Daha önce yaşanan OpenAI ve Hugging Face temasındaki beklenmedik otonom siber eylemleri hatırlatan Amodei, benzer yapay zeka sürülerinin 6 ila 12 ay içinde tüm internet altyapısını tehdit edebileceğini ifade etti. Tehlikelerin önüne geçebilmek adına bağımsız denetçilerin devreye girmesi, katı güvenlik testleri ve küresel standartlar belirlenmesi önerildi.
SEKTÖR DEVLERİNDEN ÇAĞRIYA TAM DESTEK
Amodei’nin bu değerlendirmelerine teknoloji dünyasından onay geldi. Tesla ve SpaceX yöneticisi Elon Musk görüşleri haklı bulduğunu ifade ederken, OpenAI CEO’su Sam Altman da geliştirme hızının dengelenmesi gerektiği fikrine katılarak bağımsız denetçi uygulamasını şirket bünyesinde başlatacaklarını bildirdi.
5N 1K
Dario Amodei yapay zeka konusunda ne talep etti?
Modellerin kontrol dışına çıkmasını ve büyük siber tehditler oluşturmasını engellemek için yapay zeka geliştirme hızının bilinçli şekilde yavaşlatılmasını talep etti.
Yavaşlama çağrısına hangi sektör liderleri destek verdi?
Tesla ve SpaceX CEO'su Elon Musk ile OpenAI CEO'su Sam Altman yapılan çağrıya destek verdiklerini açıkladı.
Riskleri önlemek için hangi adımlar önerildi?
Şirketlere bağımsız denetçiler yerleştirilmesi, gelişim hızına sınırlamalar getirilmesi ve piyasaya sürülmeden önce modellerin siber güvenlik ile biyoloji risklerine karşı test edilmesi önerildi.
