Yapay zeka modellerinin gelecekte kontrol dışına çıkmasını engellemek isteyen teknoloji devi Microsoft, sistemlerin insan denetiminde kalmasını güvence altına alacak yeni davranış ilkeleri taslağını kamuoyunun değerlendirmesine açtı. Yaklaşık altı aylık bir hazırlık sürecinin ürünü olan taslak metin, geliştirilen modellerin kapatılma veya düzeltilme müdahalelerine hiçbir koşulda karşı koymamasını temel şart olarak belirliyor.
SİSTEMLERİN KAPANMAYA DİRENMESİ ENGELLENECEK
Hazırlanan metin uyarınca yazılımların insanlarla anlaşılır bir dille irtibat kurması ve kuralların dışına çıkılan her durumun doğrudan bir sistemsel başarısızlık sayılması hedefleniyor. Yapay zekanın verilen görevleri yerine getirmek adına riskli adımlar atmasının önüne geçmeyi amaçlayan şirket, insan unsurunun her türlü yapay zeka modelinden üstün tutulacağını ilan etti.
MODELLER İÇİN BİR TÜR ANAYASA NİTELİĞİNDE
Konuya ilişkin açıklamalarda bulunan Microsoft Yapay Zeka Üst Yöneticisi Mustafa Suleyman, metnin gelecekte geliştirecekleri sistemler için bir rehber anayasa işlevi göreceğini vurguladı. Metin için altı hafta süresince kamuoyundan geri bildirim toplanacak ve son hali verildikten sonra yapay zeka eğitim süreçlerine doğrudan entegre edilecek.
GÜVENLİK İÇİN SEKTÖREL EŞ GÜDÜM ÇAĞRISI
Geçtiğimiz temmuz ayında açık kaynak platformu Hugging Face üzerinde yaşanan yapay zeka kaynaklı siber saldırıya da dikkat çeken Suleyman, bu tür vakaların açık birer uyarı olduğunu kaydetti. Suleyman, teknolojinin güvenli bir sınırda tutulabilmesi adına farklı laboratuvar ve teknoloji şirketlerinin eş güdüm içinde hareket etmesi gerektiğini ifade etti.
5N 1K
Microsoft'un hazırladığı yapay zeka taslağının temel amacı nedir?
Gelecekte üretilecek yapay zeka modellerinin tamamen insan denetiminde kalmasını sağlamak ve kapatılma ya da düzeltilme işlemlerine direnmesini engellemek amaçlanıyor.
Taslak metin için kamuoyu görüşü ne kadar süreyle toplanacak?
Şirket, hazırlanan taslak kurallar için altı hafta boyunca kamuoyundan geri bildirim toplayacağını açıkladı.
Microsoft modellerin ahlaki veya bilinçsel statüsü hakkında ne düşünüyor?
Microsoft sistemlerinin bilinçli olmadığını vurgulayarak modellerin tüzel kişilik, refah veya hak sahibi olabileceği fikrini reddediyor.
