Anthropic, Salı günü yayımlanan bir blog yazısına göre, belirli bir çıktının hangi yapay zeka modeli tarafından üretildiğini doğrulamak için açık kaynaklı bir sistem üzerinde çalışıyor. FlashProve adı verilen sistem, araştırmacıların "provable inference" yani kanıtlanabilir çıkarım olarak adlandırdığı şeyi sunmak üzere tasarlandı; bu, temelde matematiksel bir garanti olan kriptografik bir kanıtla belirli bir çıktının belirli bir modelden geldiğini gösteriyor. Sistem, kullanıcıların aldıkları yanıtın gerçekten kullandıklarını düşündükleri modelden geldiğini teyit etmelerini sağlamayı amaçlıyor.
Kriptografik e-posta imzalarının alıcının mesajın iddia edilen gönderenden geldiğini doğrulamasına benzer şekilde FlashProve, bir modeli başka bir model gibi göstermeye çalışan sahteciliklere karşı dayanıklı olacak; sahteciliği yapan taraf modelin üretildiği ve çalıştırıldığı laboratuvar olsa bile. Araştırmacılar, sistemin özellikle bir yapay zeka şirketinin maliyetleri düşürmek için gizlice daha ucuz bir modeli devreye sokmasını veya performans sonuçlarını şişirmek için daha pahalı bir modeli kullanmasını engellemeye yarayabileceğini belirtiyor.
FlashProve, üçüncü tarafların belirli bir görevin ileri düzey bir model tarafından yapıldığı yönündeki iddialarını doğrulamak için de kullanılabilir. Araştırmacılar yazıda şöyle diyor: "Bir geliştirici, yazılım kitaplığının bir öncü siber güvenlik modeli tarafından güvenlik açıkları açısından tarandığını iddia edebilir ya da bir şirket, iş planının uygun bir model tarafından onaylandığını iddia edebilir." Kullanıcı bu iddiaları nasıl doğrulayabilir?
Sistemin çalışması için yapay zeka laboratuvarlarının piyasaya sürdükleri her modelin daha sonra belirli çıktılara eşleştirilebilecek ve kriptografik olarak doğrulanabilecek bir "parmak izi" yayınlaması gerekiyor. Önemli olan, parmak izlerinin modelin davranışını tanımlayan ve Anthropic ile OpenAI gibi kapalı model üreticilerinin gizli tuttuğu iç sayılar olan ağırlıkları açığa çıkarmaması. Bu sayede laboratuvarlar en değerli varlıklarından vazgeçmeden parmak izlerini yayınlayabiliyor ve sistem ticari modellerle de çalışabiliyor. Sistem aynı zamanda hafif olacak şekilde tasarlandı, böylece doğrulama yerel bir cihazda yapılabilecek.
Açıklamanın bir parçası olarak araştırmacılar, sistemin çeşitli unsurları için ayrıntılı teknik bir spesifikasyon ve çalışan kod yayımladı; bu materyaller GitHub'da açık kaynak lisansı altında herkesin erişimine açık. Araştırma devam ediyor ve sistemin Anthropic'te ya da başka bir laboratuvarda kullanılması planlanmıyor.
Araştırmacılar duyuru yazısında "Bu araştırma yazısı tamamlanmış bir araştırma gündemi değil, ara ilerlemenin paylaşılması amacını taşıyor" açıklamasını yapıyor. "Bunu açıkça başkalarının yaptığımızı incelemesi, alıp geliştirmesi amacıyla paylaşıyoruz" ifadelerine yer veriliyor.
