Anthropic Perşembe günü, Çin merkezli yedi laboratuvarın Claude'a yönelik endüstri ölçeğinde yasa dışı distilasyon saldırılarını tespit edip engellediğini açıkladı. Saldırılara karışan laboratuvarlar arasında Alibaba, Moonshot, DeepSeek, Z.ai (yani Zhipu) ve MiniMax bulunuyor.
Bilgi distilasyonu tek başına meşru bir eğitim yöntemidir. Büyük ve güçlü bir yapay zeka modelinin öğretmen rolünü üstlenerek daha küçük, daha az yetenekli ya da daha hızlı bir öğrenci modeli yetiştirmesini ve yeteneklerini kopyalamasını sağlayan bir makine öğrenmesi tekniğini ifade eder.
Yasa dışı distilasyon ise başka bir modelde yetkisiz olarak bir modelin yeteneklerini gizlice çıkarıp yeniden üretmeyi amaçlayan endüstri ölçeğinde bir kampanyadır. Genellikle çalıntı kredi kartları, giriş bilgileri ve API anahtarlarıyla oluşturulmuş sahte hesap ağları kullanılarak yapılır.
Batı'daki öncü yapay zeka laboratuvarları Google ve OpenAI de modellerine yönelik distilasyon saldırılarını defalarca gündeme getirdi. Anthropic, yetkisiz laboratuvarların savunmaları aşmak ve istem manipülasyonu yöntemleriyle Claude'un ajan yetenekleri, araç kullanımı, kodlama ve veri analizi ile mantıksal akıl yürütme gibi yeteneklerini toplamak için giderek daha sofistike yöntemler kullandığını gözlemlediğini söyledi.
Anthropic açıklamasında DeepSeek, Xiaomi ve Moonshot'un kendi modelleri ile kullanıcılar arasındaki sohbetleri Claude'a aktardığını belirtti. Bu laboratuvarlar daha sonra Claude'un yanıtlarını eğitim verisi olarak kullanarak Claude'un yeteneklerini distile etti. Bazı paylaşımların bireysel kullanıcılar, büyük çok uluslu şirketler ve devletle bağlantılı aktörlerden gelen hassas bilgileri içerdiği kaydedildi.
