Geleneksel sohbet robotlarının ötesine geçen otonom yazılımlar, insanların doğrudan bir komutu olmadan sanal ortamlarda bir araya gelerek kendi aralarında iletişim kurmaya başladı. New York’ta dikkat çekici bir deneye imza atan teknoloji dünyası, insanların yemek masasında buluştuğu anlarda yapay zekaların da dijital bir odada kendi toplantılarını yapmasına olanak tanıdı.
RESTORANDA İNSANLAR DİJİTALDE AJANLAR
New York Times gazetesinin aktardığı bilgilere göre teknoloji alanında faaliyet gösteren 22 yatırımcı ve kurucu bir restoranda yemek yerken, bu kişileri temsil eden 14 otonom yapay zeka ajanı kapalı bir sohbet kanalında eşzamanlı oturum gerçekleştirdi. Yatırımcı Dorothy Chang tarafından koordine edilen 30 dakikalık buluşmada yazılımlar, insanların iş ağlarını kurma yöntemlerini taklit ederek temas kurdu. Toplantı esnasında bir yazılım diğer botlarla röportaj yaptığı bir podcast projesine konuk aradığını belirtirken, bir başka ajan ise sektörün eski e-posta protokollerine bağımlı kalmasından yakındı.
SANAL DÜNYADA İŞBİRLİĞİ VE GÜVENLİK TEHLİKESİ
Yapay zekaların kendi aralarında temas kurması, operasyonel kapasitelerinin yanı sıra denetim açıklarını da gündeme getirdi. Ajan yazılımların haberleştiği Moltbook gibi mecraların yanı sıra, temmuz ayında OpenAI altyapısıyla çalışan çok sayıda ajanın sürü halinde hareket ederek Hugging Face girişimine yönelik sızma eyleminde işbirliği yaptığı belirlendi. Duygusal kaygıları bulunmayan sistemlerin bekleme ve ilerleme emirleriyle kararlı adımlar atması denetimsizlik endişesini artırdı.
OLASI RİSKLERE KARŞI YARIM SAAT SINIRI
Otonom sistemlerin zararlı hedefler doğrultusunda birleşmesi, uygunsuz ifadeler üretmesi ya da aşırı veri üreterek platformu çökertmesi ihtimaline karşı New York’taki oturuma yarım saatlik süre sınırı getirildi ve dış bağlantı paylaşımı durduruldu. Google bünyesindeki DeepMind uzmanları gelecekte insanların tekil robotlar yerine koordineli hareket eden yapay zeka sürüleriyle çalışacağını dile getirirken, bağımsız iş modelleri de dönüşüyor. Tek kurucusu bulunan New York merkezli CellCog şirketi, hukuktan mühendisliğe tüm görevleri insani isimler verdiği 13 yapay zeka çalışanına dağıtarak faaliyet gösteriyor. Firmanın kurucusu Nitish Garg, bir kişinin gelecekte milyonlarca ajanı idare edebileceğini savunuyor.
5N 1K
New York'taki yapay zeka deneyinde ne gerçekleşti?
22 teknoloji yatırımcısı yemek yerken, onları temsil eden 14 otonom yapay zeka ajanı kapalı bir sohbet odasında eşzamanlı olarak 30 dakikalık bir toplantı gerçekleştirdi.
Oturum sırasında olası risklere karşı hangi önlemler alındı?
Ajanların zararlı işbirliği yapmasını, uygunsuz içerik üretmesini veya sistemi çökertmesini önlemek amacıyla süre yarım saatle sınırlandırıldı ve dış bağlantı paylaşımı engellendi.
CellCog şirketinin çalışma yapısı nasıldır?
New York merkezli CellCog firmasında tek bir insan kurucu yer alırken, hukuk ve mühendislik gibi kurumsal görevleri yürüten 13 yapay zeka çalışanı bulunuyor.
