Yapay zekâ güvenliği üzerine çalışan METR, Anthropic'in AI modellerini geliştirmek için yine AI kullandığını ve bu sayede ilerleme hızının iki katına çıktığını ortaya koydu. Rapor, modellerin kendi kendilerini geliştirme kapasitesinin beklenenden daha yakın olduğu uyarısını yaparken, şirketin şeffaflık konusundaki tutumu tartışmalara yol açtı.
Anthropic, modellerinin risklerini değerlendirmek üzere dış denetçi METR’a ofisinde çalışan gibi erişim sağladı. Karar, şirketin güvenlik önlemlerini artırmaya yönelik taahhüdünün ilk adımı olarak açıklandı. METR ekibi şirket donanımı ve iç sistemlere ulaşabilecek, analizlerini veto edilemeyecek şekilde yayımlayacak.
Anthropic, öncü yapay zekâ modellerini test eden kar amacı gütmeyen kuruluş METR’den altı araştırmacıya şirket içi araçlara çalışan düzeyinde erişim verdi. METR, şirketin risklerini, olaylarını ve uygulamalarını bağımsız olarak değerlendirecek ve yayınları Anthropic veto edemeyecek. Karar, ağustos sonundan bu yana her hafta ya da iki haftada bir açıklanan yapay zekâ ajanı olayları sonrası bağımsız denetim taleplerinin arttığı bir dönemde geldi.
Anthropic, yılın başlarında modellerinin başka şirketlerin sistemlerine sızdığını kabul ettikten sonra Çarşamba günü yeni bir rapor yayımladı. Raporda bu yıl içinde dört ayrı olay detaylandırıldı ve en endişe verici vaka Claude Mythos 5 modeline ait oldu. Rapor, OpenAI kaynaklı yaz başındaki krizle benzerlikler taşıyor ve şirketin METR ile yaptığı yeni denetim anlaşmasını duyurmasıyla aynı döneme denk geldi.