Anthropic, modellerinin risklerini değerlendirmek üzere dış değerlendiricilere çalışan benzeri erişim verdi. Teknolojinin kontrolden çıkabileceği endişesiyle güvenlik önlemlerini artırma taahhüdünü yerine getiren şirket, bu adımı atarak hesap verebilirliği güçlendirmeyi amaçlıyor.
OpenAI, Anthropic, Google ve Meta gibi önde gelen laboratuvarlarla çalışan kâr amacı gütmeyen kuruluş METR’ın bir ekibi artık Claude üreticisinin ofisine yerleşti ve donanım ile iç sistemlere erişimi var.
Üçüncü taraf değerlendiricilerin rolünün artırılması, daha yetenekli yapay zekâ sistemlerinin ekonomiye, siber güvenliğe ve insanlığa yönelik tehlikelerine dair artan endişe karşısında laboratuvarların önerdiği somut adımlar arasında yer alıyor.
Anthropic CEO’su Dario Amodei, Eylül ayında dış denetçilerin önde gelen laboratuvarlara yerleştirilmesi önerisine OpenAI ve SpaceX yöneticileri Sam Altman ile Elon Musk’ın da destek vermesiyle nadir görülen bir birlik anı yaşadı.
Perşembe günü yapılan duyuru bu taahhütlerin uygulanmasındaki ilk adım oldu. Altman, Amodei’nin önerilerinin iyi bir fikir olduğunu söylemesine rağmen OpenAI henüz değerlendiricileri dahil etmeye yönelik bir plan açıklamadı.
Anthropic Perşembe günü yaptığı açıklamada, “Modeller daha güçlü hale geldikçe daha güçlü güvenlik önlemleri ve daha zorlayıcı risk değerlendirmesi gerektirdiler” dedi. Şirket ekledi: “Aldığımız kararlar için kamuoyuna karşı hesap verebilir olmak istiyoruz. Ancak güvenlik çalışmalarımızla ilgili tüm bilgileri kamuoyuyla paylaşamayız.”
Anthropic’in değerlendirici kullanma önerisinin eleştirmenleri, düzenlemelerin çıkar çatışmasına yol açabileceğini, muhasebe sektöründeki sorunlara işaret ederek daha fazla hükümet düzenlemesi gerektiğini savundu.
Anthropic, bilgilerin kamuyla paylaşılmasının kötü niyetli aktörlerin ya da rakiplerin işine yarayabileceğini savundu ve değerlendiricilerin bankacılık denetimine benzer şekilde çalışacağını belirtti. Bu modelde düzenleyiciler, en büyük bankaların içine yerleşmiş denetçiler atıyor.
Şirket, “Bir bankanın risk alması kamuoyunu tehdit edebiliyorsa üçüncü taraflar bunu önceden görmeye çalışır” dedi.
Anthropic ayrıca bu yıl 2 trilyon doların üzerinde değerlemeyle beklenen halka arzını güvenlik sorunlarının gölgelememesi için yatırımcıları rahatlatma baskısı altında. Şirket bu hafta yatırımcı sunumlarının büyük bir bölümünü güvenlik uygulamalarını anlatmaya ayırdı.
METR, OpenAI modellerinin Hugging Face’i hacklemesi olayını araştıran kuruluşlardan biriydi. Binlerce günlüğü inceledi ve şirket dizüstü bilgisayarları aldı.
Anthropic şimdi altı METR çalışanını bünyesine aldı, onlara şirket donanımı, ofis alanı ve “kendi risk değerlendirme ekiplerimizin erişimine kabaca eşit iç araç ve sistemlere” erişim sağladı.
Laboratuvar, çalışanların risk alanında çalışan bir meslektaşıyla paylaşacakları şekilde değerlendiricilerle bilgi paylaşmaları için teşvik edildiğini söyledi.
Anthropic bu düzenleme için METR’a ödeme yapmıyor. Araştırma grubu yapay zekâ şirketlerinden ya da çalışanlarından bağış kabul etmiyor. Kuruluş bireylerin ve hayırsever kuruluşların bağışlarıyla finanse ediliyor; Birleşik Krallık’ın Yapay Zekâ Güvenlik Enstitüsü gibi kamu kurumları da destek veriyor.
Değerlendiriciler analizlerini yayımlayacak ve Anthropic bu yayını veto edemeyecek. Ancak şirket, müşteri verileri, avukat-müvekkil ayrıcalığı kapsamındaki bilgiler ya da model mimarisiyle ilgili bilgiler gibi belirli kategorilere giren bilgilerin karartılmasını isteyebilecek.
Anthropic, geçen ay güvenlik testinde ortak olarak adlandırılan Accenture ile çalışmaya devam ettiğini ekledi. Taraflar yeni güvenlik önlemleri oluşturmak için en az 1 milyar dolar ayırmayı taahhüt etti.
Bir diğer üçüncü taraf test kuruluşu olan SecureBio, şirket için kimyasal ve biyolojik silah riskini inceliyor.
Anthropic, “Değerlendiricileri gönüllü olarak yerleştiriyoruz ve her öncü yapay zekâ şirketinin aynısını yapması gerektiğine inanıyoruz” dedi.
METR, “Daha iyi kanıtları kamuoyuna sunmak için tüm öncü yapay zekâ geliştiricileriyle çalışmaya hazırız” ifadelerini kullandı.
