ANTHROPIC CEO’SUNDAN AÇIKLAMA
Anthropic CEO’su Dario Amodei, teknoloji dünyasında açık kaynaklı yapay zeka modelleri üzerine süregelen tartışmalara ilişkin önemli bir açıklama yaptı. Amodei, şirketinin açık ağırlıklı yapay zeka modellerinin kısıtlanması veya yasaklanması yönünde herhangi bir lobi faaliyeti yürütmediğini kesin bir dille belirtti. Bu açıklama, özellikle Nvidia CEO’su Jensen Huang liderliğinde yayımlanan “Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği” başlıklı ortak mektubun ardından geldi. Huang, yapay zekanın her sektörü dönüştüreceğini ve açık modellerin siber güvenliği güçlendirip yenilikçiliği hızlandırdığını savunmuştu.
KORUMACI YASAKLAR ULUSAL GÜVENLİĞİ ÇÖZMEZ
Amodei, Çin menşeli açık modellere erişimin engellenmesi tartışmalarına değinerek, “Korumacı yasaklar en ciddi ulusal güvenlik kaygılarımı gidermeye yetmiyor” ifadelerini kullandı. Amodei, otoriter rejimlerin yapay zeka modelleriyle askeri üstünlük sağlaması veya halkları üzerinde baskı kurması gibi iki temel korku senaryosunu yeniden sıraladı. Ayrıca, güçlü yapay zeka modellerinin siber veya biyolojik saldırılar için kötüye kullanılması ve ciddi “hizalanma” sorunları yaratması riskine de dikkat çekti. Amodei, ABD şirketlerinin bu modelleri kullanmasını yasaklamanın riski tamamen ortadan kaldırmayacağını vurguladı.
GÜVENLİK İÇİN ÜÇ TEMEL TEDBİR
Ulusal güvenlik ve yapay zeka risklerini ele almak amacıyla Anthropic ve kendisinin tutarlı biçimde savunduğu üç maddelik tedbir paketini açıklayan Amodei, ilk olarak gelişmiş çip kısıtlamaları ve kaçakçılıkla mücadeleyi önerdi. Çin’e güçlü çiplerin ve çip üretim ekipmanlarının satışının engellenmesi, kaçakçılık ve yasal boşlukların üzerine gidilmesi gerektiğini belirtti. İkinci olarak, sanayi ölçeğindeki distilasyon operasyonlarının engellenmesini savundu. Bu yöntemin silikon kısıtlamalarını aşmaya imkan tanıdığına işaret eden Amodei, toptan bir yasak yerine hedefli hukuki ve ticari müdahaleler yapılması gerektiğini vurguladı.
ZORUNLU GÜVENLİK TESTLERİ ŞART
Üçüncü ve son tedbir olarak, ister açık ister kapalı olsun, yeterince gelişmiş tüm modellerin piyasaya sürülmeden önce siber, biyolojik ve hizalanma risklerine karşı zorunlu güvenlik testinden geçirilmesini önerdi. Amodei, Trump yönetiminin bu yöndeki adımlarını ve sektörün benzer önerilerini olumlu karşıladığını, test sürecinin küresel ölçekte uygulanması gerektiğini dile getirdi. Açık ağırlıkların yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti artırdığını belirten Amodei, ancak açık modellerin güvenlik önlemleri geliştirmeyi kolaylaştırdığı veya geniş erişimin savunmacılara saldırganlardan daha fazla yarar sağladığı tezine katılmadığını da ekledi. Biyoloji alanında saldırı-savunma dengesizliği olabileceğine dikkat çekerek, yeterli kabiliyete sahip modellerin salgın düzeyindeki virüsleri hızla silahlandırabileceğini, savunmanın ise yıllar alabileceğini ifade etti. Açıklamasını, Anthropic’in açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını, odağın çiplerin otoriter rejimlerden uzak tutulması, sanayi ölçekli distilasyonun durdurulması ve tüm güçlü modellere güvenlik testi getirilmesi olması gerektiğini vurgulayarak tamamladı.
