Anthropic, yapay zeka modeli distilasyonuna karşı yasal güvencelerin güçlendirilmesi için Kongre'ye çağrıda bulundu. Şirket, Alibaba bağlantılı operatörlerin Claude sohbet robotundan yetenekleri çalmak amacıyla şimdiye kadar kayıt altına alınan en büyük saldırıyı düzenlediğini öne sürdü.
Anthropic, 10 Haziran tarihli mektubunda Alibaba ve ona bağlı Qwen yapay zeka laboratuvarıyla ilişkili operatörlerin, 22 Nisan ile 5 Haziran arasında yaklaşık 25.000 sahte hesap aracılığıyla Claude ile 28,8 milyonun üzerinde konuşma gerçekleştirdiğini iddia etti. Mektup, Senato Bankacılık, Konut ve Kentsel İşler Komitesi Başkanı Tim Scott ile Üye Elizabeth Warren'a iletildi.
Anthropic'in "distilasyon saldırısı" olarak nitelendirdiği bu operasyonun Claude'un ajanlık muhakemesi, yazılım mühendisliği ve uzun vadeli planlama yeteneklerini hedef aldığı belirtildi. Bu yöntemle rakipler, bir sınır yapay zeka modelini sıfırdan eğitmenin maliyetine katlanmadan gelişmiş model davranışlarını kopyalayabiliyor.
"Bu kampanya boyutunun ötesinde, pervasız niteliğiyle de dikkat çekiciydi" diye yazan Anthropic, Alibaba'nın New York Borsası'nda işlem gördüğünü, ABD'de iş operasyonları yürüttüğünü ve ABD'li yatırımcılar ile düzenleyicilere karşı sorumlu olduğunun altını çizdi.
Anthropic'e göre bu kampanya yalnızca fikri mülkiyet sorunuyla sınırlı kalmıyor; büyük ölçekli model distilasyonu, Çin'in askeri ve siber alandaki yapay zeka kapasitesini hızlandırabilecek ve ABD'nin teknolojik üstünlüğünü aşındırabilecek bir ulusal güvenlik meselesi haline geliyor.
Mektup, Washington'ın ABD yapay zeka liderliğini koruma çabalarını yoğunlaştırdığı bir döneme denk geldi. Bu ay Cumhurbaşkanı Donald Trump, yapay zeka destekli siber güvenlik girişimlerini genişleten bir yürütme kararnamesi imzaladı. Trump daha önce söz konusu düzenlemenin ABD'nin Çin karşısındaki rekabet gücünü zayıflatabileceği endişesiyle kararname üzerindeki imzasını ertelemişti.
"Çin merkezli laboratuvarlar bu yetenekleri ABD modellerinden distile ettiğinde, Amerikan yatırımlarının getirisini herhangi bir maliyet ya da risk üstlenmeksizin ele geçirmiş oluyorlar" diye yazan Anthropic, "Bu durum Amerikan yapay zeka liderliğinin altını oyan ekonomik mantığı tersine çeviriyor; milyarlarca dolarlık ar-ge, hesaplama kapasitesi ve diğer ABD yatırımlarını rakiplerimize sübvansiyon olarak sunuyor" değerlendirmesinde bulundu.
Anthropic, yasama organından şu adımları atmasını istedi: Sınır yapay zeka geliştiricileri ile ABD hükümeti arasındaki istihbarat paylaşımını genişletmek, yapay zeka şirketlerinin distilasyon saldırılarına ilişkin bilgi paylaşmasına olanak tanıyacak biçimde rekabet kurallarını netleştirmek, gelişmiş yapay zeka çipleri ve hesaplama kapasitesi üzerindeki ihracat kontrollerini sıkılaştırmak, Çinli firmaların yurt dışı veri merkezlerine erişmesini sağlayan açıkları kapatmak ve büyük ölçekli model çıkarımından sorumlu şirketlere yaptırım uygulamak.
Anthropic'in bir sözcüsü mektuba ilişkin ayrıntılı yorum yapmaktan kaçınırken şunları söyledi: "Yasadışı distilasyon tehdidiyle mücadelenin hükümet ve sektör arasında koordineli bir eylem gerektirdiğine inanıyoruz. Amerikan yapay zeka liderliğini sürdürmek için Kongre ve yönetimle işbirliğini sürdüreceğiz."
Mektup aynı zamanda Anthropic'in Şubat ayında yaptığı açıklamaların da üzerine inşa ediliyor. O dönemde şirket, Çinli yapay zeka geliştiricileri DeepSeek, Moonshot AI ve MiniMax'ın yaklaşık 24.000 sahte hesap aracılığıyla 16 milyonun üzerinde Claude konuşması gerçekleştirdiğini öne sürmüştü.
Bu iddialar, yapay zeka şirketlerinin kendi modellerini eğitirken benzer yöntemler kullandığını savunan gözlemcilerden eleştiri toplamıştı. Anthropic ise geleneksel distilasyonun daha küçük ve ucuz modeller üretmek için meşru bir yöntem olduğunu, öte yandan sınır model yeteneklerinin sahte erişimle izinsiz çıkarılmasının hizmet koşullarını ihlal ettiğini savundu.
Distilasyon tartışması son aylarda daha da karmaşık bir hal aldı. Nisan ayında Elon Musk, federal mahkemede verdiği ifadede xAI'ın Grok'u eğitirken OpenAI modellerini "kısmen" kullandığını kabul etti. Bu durum, distilasyonun sektörde yerleşik bir uygulama olduğunu gözler önüne sererken şirketlerin meşru model eğitimi ile izinsiz model çıkarımı arasındaki sınırı nereye koyduğu tartışması da sürüyor.
