Anthropic’in ABD’li yasa yapıcılara yapay zekâ güvenliği taslağı sunduğu Politico’da yer aldı. Tasarı, modelin piyasaya sürülmesini yalnızca 1 milyar doların üzerinde zarar veya 50’den fazla kişinin ölümü ya da ciddi yaralanması riski varsa engellemeye izin veriyor. Öneri, Ticaret Bakanlığı’na kayıtlı bağımsız değerlendirmeler ve 72 saat içinde bildirim zorunluluğu öngörüyor.
Anthropic, CEO Dario Amodei'nin yapay zeka gelişimini yavaşlatma çağrısının ardından ilk gömülü değerlendirici olarak Accenture'ı seçti. Şirket, Accenture ve yapay zeka iştiraki Faculty ile modelleri değerlendirme, kırmızı takım çalışmaları ve güvenlik testleri yapma konusunda ortaklık kurduğunu duyurdu. Her iki şirket de önümüzdeki beş yılda projeye en az 1 milyar dolar yatırım yapmayı planlıyor.
Anthropic, modellerini ve çalışanlarını denetlemek üzere Accenture personelini şirket içine gömülü değerlendirici olarak yerleştireceğini açıkladı. Accenture’un yapay zeka kolu Faculty, önümüzdeki beş yılda en az 1 milyar dolarlık yatırım öngörülen projede kırmızı takım testleri ve güvenlik değerlendirmeleri yapacak. Karar piyasada ve yapay zeka topluluğunda sürpriz yaratırken Anthropic, METR gibi kar amacı gütmeyen kuruluşlarla da görüşmelerin sürdüğünü belirtti.
Amazon, yapay zeka modellerinin piyasaya sürülmeden önce güvenli ve test edilmiş olmasını istedi ancak sektörün yavaşlaması çağrısı yapmadı. Şirket, doğru korumaların sektör-hükümet ortaklığıyla sağlanacağını belirtti. Bu açıklama, önde gelen yapay zeka firmalarının geliştirme hızını tempolama tartışmalarının sürdüğü bir dönemde geldi.
Teknoloji sektöründe uzun süredir hakim olan hızlı ilerleme anlayışı yapay zekâ alanında da sorgulanmaya başladı. Yaz boyunca kontrolden çıkan ajanlar ve yok oluş uyarıları sonrası ABD merkezli önde gelen şirketler gelişimin sınırlandırılması gerektiğini dile getiriyor. Şirketlerin gerçekten yavaşlayıp yavaşlamayacağı ve düzenleme tartışmalarının nereye evrileceği merak konusu.
Meta CEO'su Mark Zuckerberg, yapay zeka geliştirmede koordineli bir yavaşlama çağrılarına karşı çıkarak şirketlerin güvenlik önlemlerini kendi başlarına alabileceğini savundu. Zuckerberg, Meta'nın Muse projesini güvenlik gerekçesiyle ertelediğini örnek gösterdi. Açıklamaları, Anthropic ve OpenAI çevrelerinden gelen yavaşlatma taleplerinin ardından geldi.
Anthropic CEO'su Dario Amodei büyük dil modellerinin geliştirme hızına fren çağrısı yaptı ve OpenAI, Google DeepMind ve xAI liderleri de desteğini açıkladı. Üst düzey laboratuvarların kamu mesajları karamsar bir yöne dönerken, OpenAI baş bilim insanı Jakub Pachocki de kontrolün inşa hızını aştığı uyarısında bulundu. Hugging Face'e yönelik Temmuz ayındaki ajan saldırısı her iki isim tarafından da uyarı örneği olarak gösteriliyor.
Anthropic CEO'su Dario Amodei, yapay zekâ öncüsünü tempolamak için üç strateji önerdi ve şirketin bunlardan birine tek taraflı olarak taahhüt ettiğini duyurdu. Açıklama, Anthropic'ten istifa eden bir araştırmacının uyarılarının ardından geldi. Amodei, gömülü değerlendiriciler, şirketler arası koordinasyon ve küresel iş birliği çağrısı yaptı.