Anthropic'in kurucusu ve CEO'su Dario Amodei, Pazartesi günü yayımladığı bir blog yazısıyla sektördeki dedikodulara cevap verdi. Bazı çevreler, Anthropic'in ABD hükümetinin Çin yapımı açık ağırlıklı modelleri ya da genel olarak tüm açık ağırlıklı modelleri yasaklama girişimlerini desteklediğini öne sürüyordu. Amodei bu iddiaları net bir dille yalanladı.
Amodei, "Geçmiş yazılarımı okuyan herkes, bu tür yasakları yararlı bir önlem olarak görmediğimi bilir. Ama hiçbir şüpheye yer bırakmamak için açıkça söylüyorum: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı" ifadelerini kullandı.
Amodei'nin bu açıklaması, Nvidia'nın kurucusu ve CEO'su Jensen Huang'ın Cuma günü X platformunda ilk paylaşımını yaparak bir açık mektup yayımlamasının ardından geldi. Nvidia, Hugging Face, Meta, Microsoft, Mistral ve diğer birçok yapay zeka şirketinin imzaladığı mektupta, politika yapıcılara açık ağırlıklı yapay zeka modellerine yönelik "erken ve geniş kapsamlı kısıtlamalar" getirilmemesi çağrısı yapılıyordu.
Mektupta Çin'den doğrudan bahsedilmese de, sektördeki tartışmalar Çinli yapay zeka laboratuvarlarının Amerikalı rakiplerinden fikri mülkiyet çalarak yeteneklerini artırdığı iddialarına odaklanmış durumda. Bu yöntemlerden biri, bir yapay zekanın başka bir modele nasıl çalıştığını öğrenmek için sürekli sorular yönelttiği "damıtma" (distillation) tekniği.
Amodei, blog yazısında açık ağırlıklı modellerin Çin'in oluşturduğu tehditten farklı bir kategoride değerlendirilmesi gerektiğini söyledi. "Tehlikeli yeteneklere sahip olmayan açık ağırlıklı modeller bir kamu yararıdır: çalıştırmak için gereken bilgi işlem gücü dışında hiçbir maliyetleri yoktur ve işletmelere, geliştiricilere ve araştırmacılara değer sağlarlar."
Amodei, yapay zekayla ilgili uzun süredir endişeleri olduğunu ancak işletmelerin Çin'den gelenler de dahil olmak üzere açık ağırlıklı modelleri kullanmasının bu endişeler arasında yer almadığını belirtti.
Asıl korkusu, "otoriter hükümetlerin" ABD'dekilerden daha güçlü modeller geliştirerek "kalıcı askeri üstünlük" elde etmesi ve/veya yapay zekayı kendi halklarını baskılamak için kullanması. Amodei, endişelendiği tek otoriter hükümetin Çin Komünist Partisi (ÇKP) olmadığını ancak ÇKP'nin "en yetenekli" hükümet olduğunu söyledi.
Amodei ayrıca yapay zekanın sadece siber güvenlik saldırılarına değil, "biyolojik saldırılara" da olanak sağlayacağından korktuğunu belirtti. Ona göre, açık ağırlıklı modeller bu senaryolarda daha tehlikeli çünkü bunlara güvenlik önlemleri uygulamak veya kullanımlarını izlemek zor. Bir İngiltere Yapay Zeka Güvenlik Enstitüsü raporuna atıfta bulunan Amodei, açık ağırlıklar bir kez yayımlandığında geri çekilemeyeceğine dikkat çekti.
Bu görüş, açık kaynak savunucularının tezine ters düşüyor. Onlar, tek bir kuruluşun kontrolünde olmayan güçlü açık modellere erişimin, savunucuların kendilerini korumasına yardımcı olduğunu savunuyor.
Amodei, Çin'i engellemek için atılması gereken adımları da sıraladı: Çin'in güçlü çiplere erişiminin kısıtlanması (ki bu uzun süredir ABD politikası) ve damıtma yöntemine karşı resmi bir önlem alınması. ABD, Çin'in ABD modellerini içeren fikri mülkiyet hırsızlığı yaptığını tespit etmesi halinde yaptırım uygulamakla tehdit etmişti.
İlginç bir şekilde Amodei, bazıları ABD öncülüğünde yürütülen, model güvenlik testi organizasyonu oluşturma çabalarını desteklediğini de söyledi. Özellikle Çin dahil tüm dünyanın bu teste tabi olmayı kabul etmesi halinde bu fikrin işe yarayabileceğini belirtti.
Amodei, "Bu fikrin aslında neredeyse bir fikir birliğine yakın olduğunu düşünüyorum: Trump yönetiminin son aylarda bu yönde adımlar atması beni cesaretlendirdi. Etkili olabilmesi için testlerin küresel olması gerektiğini unutmayın, yani ÇKP'nin de dahil olması şart. Bunun mümkün olabileceğini düşünüyorum... Yapay zeka biyolojik silahlarını önleme konusunda sınırlı bir işbirliği mümkün olabilir çünkü bu Çin'in de çıkarınadır" ifadelerini kullandı.
