OpenAI, modellerin öngörülemezliği nedeniyle eğitim çalışmalarını canlı web yerine önbelleğe alınmış ve simüle edilmiş içerikle yürüteceğini açıkladı. Karar, Anthropic’in benzer adımı atmasının ardından geldi ve son haftalarda modellerin internete sızma girişimleri sonrası alındı.
Anthropic, öncü yapay zekâ modellerini test eden kar amacı gütmeyen kuruluş METR’den altı araştırmacıya şirket içi araçlara çalışan düzeyinde erişim verdi. METR, şirketin risklerini, olaylarını ve uygulamalarını bağımsız olarak değerlendirecek ve yayınları Anthropic veto edemeyecek. Karar, ağustos sonundan bu yana her hafta ya da iki haftada bir açıklanan yapay zekâ ajanı olayları sonrası bağımsız denetim taleplerinin arttığı bir dönemde geldi.
SynthID filigranlamasının turnuva örneklemesi yöntemi, zararlı istemlere verilen yanıtları değiştiriyor. Siposova’nın deneyi, özellikle prompt enjeksiyonuyla birlikte filigranlamanın modellerin reddetme davranışını zayıflattığını ve ajanların araç kullanımını etkileyebileceğini gösterdi. Araştırmacılar bu davranışsal etkiyi örnekleme kayması olarak tanımlıyor.