Kimlik ve Erişim Yönetimi Güvenliği
ABD kurumları, Çinli şirketlerin geliştirme maliyetlerini düşürmek için OpenAI, Anthropic, Google Gemini ve SpaceX'in Grok'undan milyarlarca token'ı gizlice çıkardığını iddia ediyor.
Alexander Culafi, Dark Reading Kıdemli Haber Yazarı
ABD hükümet kurumlarına göre Çinli yapay zeka firmaları, büyük ölçekli damıtma kampanyalarıyla ABD merkezli yapay zeka modellerine ait tescilli yetenekleri çalıyor.
Damıtma, olgun "öğretmen" yapay zeka modellerinin "öğrenci" yapay zeka modellerini eğitmek için kullanıldığı yaygın bir makine öğrenimi uygulamasıdır. Tek başına damıtma, akademik araştırmalarda kullanılan, modelleri daha verimli hale getiren ve özel kullanım senaryolarıyla modelleri geliştiren yaygın kabul gören bir uygulamadır.
FBI, Ulusal Güvenlik Ajansı (NSA) ve Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ise 8 Eylül'de ortak bir uyarı yayınlayarak Çinli yapay zeka firmalarının damıtma yoluyla ABD'nin önde gelen yapay zeka modellerinden yetenekleri "endüstri ölçeğinde" çıkarmaya çalıştığını bildirdi. Uyarı, Alibaba, DeepSeek, MiniMax, Moonshot AI, StepFun ve Z.AI dahil bir dizi yapay zeka satıcısının kendi tescilli modellerinin eğitimi ve geliştirilmesine yardımcı olmak için ABD büyük dil modellerini (LLM) kullandığını iddia ediyor.
Bu şirketlerin en az 2024 sonundan bu yana Claude, GPT, Gemini ve Grok varyantları da dahil ABD öncü yapay zeka modellerinden milyonlarca işlem/istek üzerinden milyarlarca token çıkardığı uyarıda belirtildi.
Uyarıya göre bu vakayı farklı kılan, bu firmaların hizmet şartlarını ihlal ederek elde edilen çıktılar üzerinde eğitim yapması, bir rakibin tescilli yeteneklerini kasıtlı olarak çıkarması ve tespitten kaçınmak için kaçamak teknikler kullanmasıdır. ABD kurumları bunun Çin hükümetinin bilgisiyle gerçekleşiyor olabileceğini iddia ediyor.
Çin'in Yapay Zeka Damıtıhanesinin İçinde
Uyarı, ABD öncü modellerine endüstri ölçeğinde erişim için kullanılan birden fazla tekniği özetliyor.
Uyarıda şöyle denildi: "Gelişmiş endüstri ölçeği damıtma taktikleri, zincirleme düşünme (CoT) akıl yürütme çıkarımını, engelleme girişimleri sırasında yollar arasında otomatik yedeklemeyi ve savunma karşı önlemlerini tespit etmek için sofistike kalite değerlendirme çerçevelerini içerir." "ABD yapay zeka modellerine karşı endüstri ölçeğinde damıtma yapan Çin merkezli yapay zeka şirketleri, yapay zeka geliştirme süreçlerini önemli ölçüde kısaltıyor ve öncü bir model eğitiminde finansal harcamaları azaltıyor."
Bu yoğun süreçte para tasarrufu sağlamak için Çin merkezli yapay zeka firmalarının ABD yapay zeka modelleri için toplu prim abonelikleri aldığı ve bunları geliştirici ekipler arasında paylaştığı iddia ediliyor.
Tespitten kaçınmak için firmaların damıtma isteklerini yerel API'ler, uzak bulut sağlayıcıları ve kullanıcı meta verilerini otomatik olarak gizleyen üçüncü taraf toplayıcılar üzerinden yönlendirdiği bildiriliyor. Ayrıca ABD yapay zeka modeli coğrafi kısıtlamalarını aşmak ve güvenlik önlemlerini atlatmak için özel olarak kullanılan vekil bir gri pazar olan "transfer istasyonlarından" da yararlanıyorlar.
Uyarı farklı şirketlere ilişkin çok sayıda iddia da içeriyor. CISA, DeepSeek'in en az 2024 sonundan bu yana ABD yapay zeka şirketlerinin öncü modellerine karşı "modelleri için sentetik eğitim verisi üretmek" amacıyla organize bir damıtma kampanyası yürüttüğünü söyledi.
Uyarıda şöyle denildi: "Şirket, hesaplama ve araştırma maliyetlerini azaltmak için tescilli işlevsellik ve akıl yürütme yeteneklerini çıkarmak üzere belirli bilgi alanlarını hedefledi." "DeepSeek'in kamuoyuna açıklanan eğitim maliyeti $5.6M yanıltıcıdır; kapsamlı kötü niyetli damıtma yoluyla elde edilen verinin gerçek maliyeti dahil değildir."
Bu arada Moonshot AI'nın Kimi-K3 modelini eğitmek için "önemli miktarda Claude Fable 5 verisi" ve Kimi-K2 modelini eğitmek için GPT-4o verisi çıkardığı iddia ediliyor. Her iki firma da bu kampanyanın bir parçası olarak Anthropic, OpenAI, Google ve xAI'dan modelleri yağmalamış görünüyor.
Yapay Zeka Şirketlerinin Yapması Gerekenler
Yazarı kurumlar, ABD yapay zeka şirketlerinin anormal ve kötü niyetli davranışları bulmak için kapsamlı tespit ve azaltma önlemleri uygulamalarını; daha geniş kampanyaların farkına varmak için diğer yapay zeka kuruluşlarıyla istihbarat paylaşmalarını; ve bu çıktıların etkinliğini azaltmak için şüpheli kötü niyetli girişimlere yönelik yanıtları ayarlamalarını öneriyor.
Arctic Wolf'ta laboratuvarlar, tehdit araştırması ve istihbarat başkan yardımcısı Ismael Valenzuela, Dark Reading'e model çıkarma ve damıtmanın "API kötüye kullanımı veya fikri mülkiyet anlaşmazlığı olarak ele alınmak yerine" tek başına bir güvenlik olayı kategorisi olarak ele alınması gerektiğini söylüyor.
"Yapay zeka şirketleri ve kuruluşları, ölçekte otomasyon, anormal istem toplama davranışı ve dağıtık hesap oluşturma için yapay zeka API erişim kalıplarının 24/7 izlenmesine öncelik vermelidir," diyor Valenzuela. "Kuruluşlar, tespiti her kuruluşun tek başına çözmesi gereken bir şey olarak görmek yerine, telemetri ve göstergeleri model sağlayıcılarıyla paylaşmak için çalışmalıdır."
