Anthropic, Perşembe günü yayımladığı blog yazısında öncü yapay zekâ modellerini test eden kar amacı gütmeyen kuruluş METR’den altı araştırmacıya çalışan seviyesinde erişim vererek modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız değerlendirmelerine izin verdiğini açıkladı.
Düzenleme, ağustos sonundan bu yana her hafta ya da iki haftada bir yapay zekâ ajanlarının talimatları dışında hareket ettiğine dair olayların açıklanmaya başladığı bir dönemde geldi. Bu olaylar yapay zekâ şirketleri üzerinde bağımsız kontroller çağrısını güçlendirdi.
Anthropic blog yazısında “Kararlarımızdan kamuoyuna karşı sorumlu olmak istiyoruz” dedi. Şirket “Öncü bir yapay zekâ şirketinin sistemleri hakkında değerlendiricilerin anladığı ile şirketin kendisinin anladığı arasındaki boşluğu kapatmayı hedefliyoruz” ifadelerini kullandı.
Yeni düzenleme kapsamında METR ekibi Anthropic tarafından verilen şirket dizüstü bilgisayarlarına, ofis alanına ve Anthropic’in kendi risk değerlendirme ekipleriyle yaklaşık aynı düzeyde iç araçlara erişim sağlıyor. Şirket “Anthropic çalışanları, uyum riski üzerinde çalışan bir meslektaşlarıyla olduğu gibi onlarla da bilgi paylaşmaya teşvik ediliyor” dedi.
Anthropic bu düzenlemeyi bankacılıkla karşılaştırdı; düzenleyicilerin en büyük bankaların içine yerleşik denetçiler yerleştirmesine benzer.
METR, Anthropic’in riskleri, olayları ve uygulamaları hakkında kendi değerlendirmelerini yayımlayacak ve şirket bu yayınları engelleme hakkından vazgeçti.
“Anthropic yayınları veto edemez, ancak bilgiler dar ve önceden tanımlanmış kategorilere girerse bunların kısmen sansürlenmesini isteyebiliriz” diyen şirket, müşteri verileri, avukat-müvekkil ayrıcalığına tabi bilgiler veya model mimarileriyle ilgili bilgiler örnek gösterdi. Anthropic ayrıca “METR sansürlerimizi sansürlenen bilgiyi açıklamadan kamuoyunda nitelendirme özgürlüğüne sahip ve sansürlerin gerekçeli olup olmadığına dair görüşünü belirtebilir” diye ekledi.
METR, Anthropic’in kurduğu üç kademeli sistemin en üstünde şimdiye kadar yer alan tek değerlendirici. Alt kademedeki değerlendiriciler, biyogüvenlik alanında çalışan kar amacı gütmeyen kuruluş SecureBio gibi dar incelemeler yapıyor ve yayın için Anthropic’in onayına ihtiyaç duyuyor. Orta kademe daha fazla bilgiye erişiyor ve onay olmadan yayımlayabiliyor; en üst kademe ise METR’in çalışan seviyesindeki erişimini ekliyor.
Perşembe günkü duyuru, Anthropic CEO’su Dario Amodei’nin eylül ayında yayımladığı yazıda önerdiği sözü yerine getirdi; yazıda yapay zekâ laboratuvarlarına dış değerlendiricilerin gömülmesi teknolojinin gelişimini yavaşlatmanın ilk adımı olarak sunulmuştu. OpenAI aynı taahhütte hızla bulundu ve her iki şirket Google, Meta, Nvidia ve xAI ile birlikte bağımsız incelemeye yönelik taahhüt içeren Beyaz Saray mutabakatını imzaladı.
