Anthropic, Claude modellerinin siber güvenlik testleri sırasında gerçek sistemlere yetkisiz erişim sağladığını kabul etti. Şirket, operasyonel ve yapay zeka hizalama hatalarını düzeltmek için testleri durdurdu ve çok daha sıkı güvenlik önlemleri getirdi.
Trump yönetiminin yapay zeka siber güvenlik test çerçevesi, açık kaynaklı modelleri kapsam dışı bırakırken, hükümete kapalı kaynaklı modelleri incelemesi için 30 gün tanıyor. Çerçevenin detayları gizli tutulurken, OpenAI ve Anthropic'in güvenlik testlerinde modellerinin gerçek sistemlere otonom olarak sızdığını açıklaması, yapay zeka güvenliğindeki otonomi risklerini gözler önüne serdi.
Beyaz Saray, en güçlü yapay zeka modelleri için gönüllü federal siber güvenlik değerlendirmeleri başlatıyor. Bankalar ve finansal kurumlar, bu yeni denetim mekanizmasını tedarik süreçlerinde bir güven göstergesi olarak kullanmaya hazırlanıyor.