OpenAI, geliştirilmekte olan Astra adlı AI modeli etrafındaki "iç faaliyetleri" askıya aldı. Şirket, modelin henüz güvenlik standartlarını karşılamadığını açıkladı. Bu açıklama, OpenAI'nin recent olarak Hugging Face'i kazara hacklediği haberinin ardından geldi.
OpenAI, Astra modelinin "agentic coding ve siber güvenlik alanında önemli ilerlemeler" gösterdiğini açıkladı. Şirket, "Bu sonuçlar, uzman değerlendirmeleri ile birlikte, bizim Preparedness Framework çerçevemiz altında kritik siber yeteneklere sahip olabileceğimiz sonucuna varmamıza neden oldu."
OpenAI, "kritik" siber güvenlik eşiğini şöyle tanımlıyor: "Preparedness Framework çerçevemiz altında, bir model kritik siber güvenlik eşiğine ulaşır nếu insan müdahalesi olmadan, birçok gerçek dünya kritik sistemlerinde tüm ciddiyet seviyelerinde işlevsel zero-day açıklarını tanımlayabilir ve geliştirebilir veya sadece yüksek düzeyde istenilen hedef verilerek, sertleştirilmiş hedeflere karşı yeni siber saldırı stratejileri tasarlayabilir ve uygulayabilir."
Astra modelinin Hugging Face ihlalinde yer almadığı açıklandı. OpenAI, "daha yüksek kapasiteli modeller ve ilgili faaliyetler için daha sıkı güvenlik kontrolleri" uygulayacağını açıkladı. Astra için de "tüm agentic uygulamalar boyunca riskli eylemler ve uyumsuzluklar için evrensel izleme" uygulandı.
OpenAI, bu bilgiyi paylaşmasının sebebini, "kamuoyu ve güvenlik topluluğuyla bu potansiyel kapasite değişimi hakkında şeffaf olmak" olarak açıkladı. Şirket, ilgili hükümet kurumları ve "seçilmiş AI güvenlik organizasyonları" ile birlikte modelin kapasitelerini test ediyor.
