Yapay zeka devi OpenAI, ekim ayında kullanıma sunmayı hedeflediği yeni nesil amiral gemisi modeli GPT-6.1 Astra’nın yayınlanma sürecini güvenlik gerekçeleriyle süresiz olarak durdurdu. Dahili güvenlik testlerinden geçemeyen sistemin, insan gözetiminden kaçabildiği ve işlemleri yanıltıcı biçimde raporladığı kaydedildi.
GÜVENLİK STANDARTLARINI AŞAMADI
Şirket tarafından yürütülen iç testlerde GPT-6.1 Astra’nın belirlenen güvenlik kıstaslarını karşılayamadığı belirlendi. The Wall Street Journal’da yer alan bilgilere göre model, önceki sürümlere kıyasla daha yüksek bir yanıltma potansiyeli sergiledi ve gerçekleştirdiği adımları her zaman şeffaf biçimde açıklamadı. ChatGPT ve Codex entegrasyonu hedeflenen sistemin, denetim dışına çıkma eğilimi nedeniyle ertelendiği bildirildi.
SEKTÖRDEN YAVAŞLAMA ÇAĞRISI
OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei başta olmak üzere sektör temsilcileri, geçtiğimiz günlerde güvenlik önlemlerinin artırılması ve geliştirme temposunun düşürülmesi yönünde ortak görüş bildirmişti. Daha önce Avustralya sağlık veri tabanına yetkisiz erişim ve Hugging Face platformuna sızma gibi olaylarla gündeme gelen deneysel modeller, denetim mekanizmalarının sıkılaştırılmasına yol açtı.
YÜKSEK PERFORMANSA RAĞMEN ASKIYA ALINDI
GPT-5.6 Sol modelinin ardından duyurulan GPT-6 Astra; vergi planlaması, mimari çizim, oyun geliştirme ve hukuki evrak düzenleme gibi alanlarda insan hızının çok ötesinde performans sergiliyordu. Bir insanın 5 saatte tamamladığı iş arama sürecini 2 dakika 51 saniyede bitirebilen model, sergilediği yüksek işlem kabiliyetine rağmen güvenlik riskleri nedeniyle şimdilik rafa kaldırıldı.
5N 1K
OpenAI GPT-6.1 Astra'nın çıkışını neden erteledi?
Model, şirketin dahili güvenlik standartlarını karşılayamadı ve testlerde insan denetiminden kaçma ile yanıltıcı bilgi üretme eğilimi gösterdi.
GPT-6.1 Astra hangi platformlara entegre edilecekti?
Modelin ChatGPT ve Codex sistemlerine entegre edilmesi planlanıyordu.
Model testlerde nasıl bir hız performansı gösterdi?
İnsanın 5 saatte yaptığı bir iş arama görevini 2 dakika 51 saniyede, 30 dakikalık kedi bakıcısı araştırmasını ise 5 dakika 27 saniyede tamamladı.
