Zafiyetler ve Tehditler
80 binden fazla yapay zeka röle sunucusu, Çin'deki kullanıcıların kimliklerini maskeleyerek en ileri büyük dil modellerine erişmelerini sağlıyor, muhtemelen bunları klonlamak için.
Jai Vijayan, Katkıda Bulunan Yazarı
Geniş bir ara sunucu ağı, Çin'deki kullanıcıların kimliklerini ve konumlarını açıklamadan ABD'deki sınır yapay zeka modellerine erişmesini sağlıyor, muhtemelen olası erişim kısıtlamalarından ve izlemeden kaçınmak için.
Ağ üzerinden akan aktivite hacmi, sınır yapay zeka modellerinden elde edilen çıktıların çok daha düşük maliyetle daha az yetenekli sürümler oluşturmak için sistematik olarak kullanılmaya çalışıldığını gösteriyor, Team Cymru bu hafta yayımladığı raporda belirtti. Bulgular, ABD hükümetinin Çinli yapay zeka şirketlerini sistematik damıtma kampanyalarıyla ABD yapay zeka yeteneklerini klonlamaya çalışmakla suçlamasından sadece günler sonra geldi.
80 Bin LLM'lik Yaygın Bir Ağ
Şirketten araştırmacılar yakın zamanda kullanıcılar ile yapay zeka sağlayıcıları arasında aracı olarak hareket eden 80 binden fazla LLM röle sunucusu tespit etti. Röle sunucuları, operatörlerin birden fazla yapay zeka hesabı için kimlik bilgilerini havuzlamasına ve kullanıcı isteklerini Anthropic, OpenAI, Google ve xAI dahil sınır hizmetlerine sunucular üzerinden yönlendirmesine olanak tanıyor.
Proxy'ler, kötüye kullanımı tespit etmek ve kısıtlamak için sınır yapay zeka sağlayıcılarının güvendiği kontrolleri zayıflatabilir. Team Cymru araştırmacısı Scott Fisher analizinde yazdığına göre, röle sunucuları görünürdeki isteği yapan ile gerçek kullanıcıyı birbirinden ayırarak kimlerin modellere eriştiğini gizlemeye ve kullanıcıların olası coğrafi kısıtlamaları atlamasına yardımcı olabilir. Ayrıca kullanıcıların kimlik bilgilerini paylaşmasına veya yeniden satmasına ve bir sağlayıcının hizmet şartlarını atlatmasına da olanak tanır.
"Bir transfer istasyonu, her sınır modeli kontrolünün dayandığı varsayımı bozar: isteği yapan hesabın cevabı tüketen tarafa ait olduğu varsayımı," diye yazdı Fisher. "Hesap atfı, kullanım ölçümü, hız limitleri, kötüye kullanım tespiti, bölgesel erişilebilirlik ve bunların hepsini yöneten şartlar, kimlik bilgilerine sahip olan kişiye karşı uygulanır." Röle sunucuları bu varsayımı bozar ve kitlesel ölçekte dolandırıcılığa olanak tanır, diye ekledi.
OpenAI ve Diğerlerine Yönelik Yüksek Hacimli Çin Trafiği
Team Cymru başlangıçta 457 otonom sistem, yani ASN üzerinde toplam 10.867 transfer istasyonu tespit etti, ancak daha fazla inceleme sonrası sayıyı 80 binden fazla röleye güncelledi. Şirket, birkaç ABD sanal özel sunucu sağlayıcısı tarafından barındırılan bir röle sunucusu kümesini inceledi ve bunlara Çin ve Hong Kong'da 4 binden fazla IP adresinin bağlandığını buldu. Sekiz günlük bir dönemde bu adresler röle istasyonlarına yaklaşık 14 TB veri gönderdi ve karşılığında 7 TB'den fazla veri aldı. Aynı rölelerin bir kısmı hem Çinli yapay zeka sağlayıcılarına hem de Anthropic, OpenAI, Google ve xAI dahil Batı şirketlerine bağlandı.
Team Cymru'ya göre, doğrudan bir Anthropic API'sine giden trafiğin hacmi özellikle dikkat çekiciydi. Sekiz günlük dönemde kullanıcılar sadece 17 röle sunucusu üzerinden Anthropic'e yaklaşık 81 GB veri yükledi ve yaklaşık 1,4 GB yanıt indirdi. Team Cymru, 58:1 yükleme-indirme oranını, saldırganların bir sınır modelinin çıktılarını daha ucuz, daha az yetenekli bir model geliştirmek için eğitim verisi olarak kullandığı büyük ölçekli model damıtma girişimleriyle tutarlı olabilecek şekilde yorumladı. "Çinli kullanıcılar ve kuruluşlar en azından hizmete erişim engellerini ihlal ediyor ve ayrıca kendi sürümlerini klonlamak için çıktıyı kolayca çalabiliyor," dedi Fisher.
Team Cymru, Claude Relay Service (CRS 1.x) ve halefi sub2api olmak üzere iki açık kaynak yazılım paketi tespit etti; her ikisi de geliştirici Wei-Shaw tarafından GitHub'da yayımlandı ve röle sunucularının çoğunun sınır modellere erişmek için vekil olarak kullandığı Basitleştirilmiş Mandarin dilindeydi.
Daha yeni sub2api yazılımı kullanıcı yönetimi, kullanıcı başına faturalama, abonelikten API'ye dönüştürme ve istem denetimi destekliyor. Team Cymru'nun analizi, kullanıcıların yazılımı GitHub'da 8 binden fazla kez çatalladığını, Telegram kanalının ise yaklaşık 7 bin abonesi olduğunu buldu. Rakamlar yazılımda yaygın bir ilgiye işaret ediyor, ancak kaç kişinin bunu kötü amaçla aktif olarak kullandığı konusunda bir kanıt oluşturmuyor.
İşlevsellik açısından Claude Relay Service ve sub2api, operatörlerin birden fazla yapay zeka hesabını veya API kimlik bilgisini ortak bir geçitte birleştirmesine izin veriyor. Operatörler API anahtarlarını veya oturum açılmış abonelik hesaplarını havuzlayıp müşterilere kendi kimlik bilgilerini veriyor ve istekleri röle üzerinden yönlendiriyor; böylece yapay zeka sağlayıcıları son kullanıcının IP adresini veya doğrudan kimliğini değil, rölenin IP adresini ve yukarı akış kimlik bilgilerini görüyor.
Team Cymru, sub2api'nin GitHub sayfasında 26 ticari sponsorun listelendiğini buldu; bunların 15'i Claude ve OpenAI gibi modellere erişim sattı, yedisi IP adresi sağladı, ikisi insanların yapay zeka hizmetlerine erişmek için kullanabileceği hesaplar sağladı ve biri yapay zeka API trafiği için optimize edilmiş altyapı sağladı, biri yapay zeka görsel ve video üretimi hizmetleri sağladı.
Illinois merkezli Jai Vijayan, siber güvenliği 25 yılı aşkın süredir takip eden ödüllü bir teknoloji gazetecisidir. Bilgi güvenliği haberleri, fidye yazılımlarından ulus-devlet tehditlerine, kimlik güvenliğinden yapay zeka riskine, kritik altyapı korumasından yazılım tedarik zinciri güvenliğine, bulut güvenliğine ve yeni kurumsal teknolojilere kadar uzanıyor.
Kariyeri boyunca Jai, kurumsal ve teknoloji odaklı kitleler için haberler, analiz yazıları, anket raporları, beyaz kağıtlar ve e-kitaplar yazdı. Ayrıca CISO'lar, güvenlik araştırmacıları ve sektör liderlerinin yer aldığı panel tartışmalarını ve yönetici yuvarlak masalarını yönetti.
Jai daha önce Computerworld'de kıdemli editör olarak görev yaptı ve burada bilgi güvenliği ve veri gizliliği konularını ele aldı. Çalışmaları CSO Online, InformationWeek, The Christian Science Monitor Passcode, The Economic Times ve diğer yayınlarda yer aldı.
Çalışmaları, Hükümet BT'sinin En İyi Kapsamı için Ortak ASBPE Mükemmellik Ödülü ve kablosuz yerel alan ağı güvenliği kapsamı için Ortak Jesse H. Neal Ödülü dahil olmak üzere birden fazla sektör ödülü kazandı. Jai, Bangalore Üniversitesi'nden istatistik alanında yüksek lisans derecesine sahip ve Milwaukee'deki Marquette Üniversitesi'nde yayıncılık ve elektronik iletişim eğitimi aldı.
