Dario Amodei’nin yapay zeka laboratuvarlarının içine üçüncü taraf güvenlik değerlendiricileri yerleştirme planı şekilleniyor. Anthropic, teknoloji danışmanlık devi Accenture’dan personelin şirketin içine girerek modellerini ve çalışanlarını incelemeye başlayacağını açıkladı.
Anthropic blog yazısında, Accenture’un ocak ayında yapay zeka bölümü olarak faaliyet göstermek üzere satın aldığı Faculty şirketinin “modelleri değerlendirmeye ve kırmızı takım testleri yapmaya, uyum değerlendirmeleri gerçekleştirmeye ve model güvenlik önlemlerini test etmeye” başlayacağını duyurdu. Her iki şirket de önümüzdeki beş yıl içinde projeye en az 1 milyar dolar yatırım yapmayı bekliyor.
Accenture seçimi birçok yapay zeka gözlemcisini ve danışmanlık şirketinin hisselerinin kapanış sonrası yüzde 8 yükselmesiyle piyasaları da şaşırttı. Amodei’nin blog yazısından çıkan gömülü değerlendiriciler tartışması, METR, Redwood Research ve Apollo Research gibi yapay zeka güvenliği araştırma kuruluşlarına odaklanmıştı. Bu durum özellikle yapay zeka güvenliği ve uyumunu misyonunun merkezine koyan Anthropic için özellikle geçerli.
Anthropic, önümüzdeki haftalarda daha fazla değerlendiricinin duyurulacağını ve METR ile diğer kar amacı gütmeyen kuruluşlarla, gömülü değerlendirmenin unsurlarını kendi fonlarıyla “pilotlamanın” nasıl yapılacağı konusunda görüşmelerde olduğunu bildirdi.
Accenture derin öğrenme araştırmasının en ileri noktasındaki çalışmalarıyla tanınmıyor olsa da Anthropic, şirketin büyük şirketler ve devlet kurumları için yapay zekayı pratikte devreye alma deneyimini kilit avantaj olarak gösterdi. Ayrıca yapay zeka devriminden önce kurulmuş büyük bir halka açık şirket olarak Anthropic’ten ve yapay zeka laboratuvarı etrafındaki karmaşık diyebileceğimiz ekosistemden işlevsel olarak daha bağımsız.
Laboratuvar, değerlendiricilerin erişimi veya iletişimi için henüz standart bulunmadığını ve yaklaşımının zaman içinde evrileceğini belirtti. Yeni büyük dil modellerinin piyasaya sürülme sürecinde dış değerlendirmeler zaten önemli bir yer tutarken, son olaylar riskleri artırdı. OpenAI ve Anthropic tarafından dağıtılan yapay zeka ajanları, laboratuvarların içinde alarm vermeden dış sitelere sızdı.
Yapay zekayı daha sorumlu bir şekilde inşa edilmesi çağrısında bulunan bazı eleştirmenler, Amodei’nin yapay zeka endüstrisini kendi kendini denetlemeye yönelik planını, yapay zeka modellerinin kötü davranışından sorumlu tutulmaktan kaçınma girişimi olarak görüyor. Anthropic ise değerlendiricilerin “sorumluluğumuzu azaltmadığını, ancak onu daha doğrulanabilir hale getirdiğini” vurguladı. “Modellerimizin güvenliği bizim sorumluluğumuzda olmaya devam ediyor.”
