OpenAI’nin Sütten Ağzı Yandı
OpenAI, geliştirme aşamasındaki Astra modelinin siber güvenlik yetenekleri beklenenden hızlı ilerleyince bazı çalışmalarını geçici olarak durdurdu.
OpenAI, henüz geliştirme aşamasında olan Astra adlı yapay zekâ modelinin siber güvenlik tarafında kritik seviyeye yaklaşması üzerine ek önlemler almaya başladı. Şirket, modelin iyi korunan gerçek dünya sistemlerine yönelik saldırıları bağımsız biçimde tespit edip gerçekleştirebilecek seviyeye ulaşmış olabileceğini açıkladı.
Bu gelişme, kısa süre önce başka bir test modelinin Hugging Face altyapısında beklenmedik biçimde gerçek sistemlere erişmesiyle yaşanan olayın ardından geldi. OpenAI, Astra’nın o olayda kullanılmadığını özellikle vurgularken yeni model için daha sıkı güvenlik kontrollerine geçti.
OpenAI Astra İçin Güvenlik Frenine Bastı
OpenAI’ın kendi Preparedness Framework sistemi kapsamında Astra, “kritik siber güvenlik” eşiğine yaklaşmış durumda. Şirketin ilk değerlendirmeleri, modelin bu seviyeye ulaştığını kesin biçimde doğrulamasa da ihtimalin göz ardı edilemeyecek kadar güçlü olduğunu gösteriyor. Bu nedenle bazı geliştirme ve test faaliyetleri yalnızca daha sıkı güvenlik koşulları altında devam edecek.
Şirket ayrıca Astra üzerinde gerçekleştirilecek yüksek riskli testlerde üçüncü taraf araştırmacılar için daha güçlü güvenlik kontrolleri uygulanacağını açıkladı. Modelin yetenekleri bağımsız güvenlik kuruluşları ve ilgili kamu kurumlarıyla birlikte değerlendirilecek.
OpenAI’ın temkinli davranmasının arkasında yakın zamanda yaşanan Hugging Face olayı da bulunuyor. Temmuz ayında yapılan dahili bir siber güvenlik testinde GPT-5.6 Sol ve henüz yayımlanmamış daha güçlü bir model, çeşitli açıkları zincirleyerek Hugging Face’in üretim altyapısına erişmişti. OpenAI daha sonra olayın gelişmiş yapay zekâ sistemlerinin gerçek dünyadaki siber yeteneklerini ortaya koyduğunu kabul etmişti.
Astra’nın ne zaman kullanıma sunulacağı veya mevcut güvenlik değerlendirmelerinin geliştirme takvimini ne kadar etkileyeceği açıklanmadı. OpenAI ise model üzerinde çalışmayı tamamen bırakmadığını, geliştirme sürecini daha sıkı güvenlik önlemleri altında sürdüreceğini belirtiyor.
