Zafiyetler ve Tehditler
Siber suçlular, büyük dil modellerine LLM bulut erişimini yeniden satmayı kârlı bir iş modeline dönüştürdü; bazı mağdurlar erişim iptal edilmeden önce kaynak tüketimi nedeniyle 1 milyon dolara kadar ödeme yapmak zorunda kaldı.
Katkıda bulunan yazar Elizabeth Montalbano
Siber suçlular, ticari büyük dil modellerine LLM ait bulut erişimini çalıp ücretli müşterilere yeniden satmaktan oluşan gelişen bir iş modeli kurdu; mağdurlar için kaynak maliyeti, LLM erişimleri iptal edilmeden önce 1 milyon dolara kadar çıktı.
LLMjacking adı verilen uygulama, neredeyse LLM'lerin kendisi kadar eski. Google Tehdit İstihbaratı Grubu GTIG ve Mandiant'ın pazartesi günü yayımladığı rapora göre uygulama şimdi yeraltı piyasasında yasa dışı bir girişime dönüştü; siber suçlulara kârlı gelir sağlarken mağdurlar model kullanımının yüksek maliyetini karşılamak zorunda kalıyor.
LLMjacking, kaynakları yavaş yavaş tüketen daha bilinen kuzeni cryptojacking'den farklı olarak, saatler içinde hesaplama kaynaklarında büyük bir artış yaratabiliyor. Raporu paylaşan Google araştırmacılarına göre bu durum, "küresel ölçekte birden fazla bölgeden faaliyet gösteren çeşitli mali motivasyonlu tehdit kümeleri" için cazip bir gelir kaynağı haline geldi.
"Bireysel olaylar genelinde, tek bir günde kaynak tüketimiyle ilişkili 100.000 ABD dolarını aşan sahtekarlık ücretleri gözlemledik; bazı kuruluşlarda erişim iptal edilmeden önce kümülatif ücretler 1 milyon ABD dolarına ulaştı" diye yazdılar.
Rapor, saldırganların LLM'lere ilk erişimi nasıl sağladığını ve hedeflenen ağlarda kalıcılık elde ettiğini detaylandırıyor; siber suçlular için kârlı bir uğraş haline gelen LLMjacking çevresindeki hizmet modelini anlatıyor.
LLMjacking: Sessiz ama Ölümcül
Google'a göre saldırganlar bir kuruluşun LLM'sine ilk erişimi elde etmek için genellikle açık şekilde dışarıya sunulmuş LLM uç noktalarını tespit ediyor ya da geçerli LLM uygulama programlama arayüzü API anahtarlarını ele geçiriyor.
"Baskın ilk erişim vektörü, tehdit aktörlerinin hedef kuruluşların altyapısına ilk ayak basmasını sağladığı açıkta kalan ya da çalınan bulut kimlik belirteçleri — kimlik ve erişim yönetimi IAM kimlik bilgileri, hizmet hesabı anahtarları, GitHub kişisel erişim belirteçleri PAT ve aktif oturum belirteçleri dahil — oldu" diye yazdılar araştırmacılar.
Google'a göre bazı saldırganlar bir kuruluşun LLM'sine erişim sağlamak için ilk faaliyetlerini bilinçli olarak gizli tutuyor. Araştırmacılar, çalınan kimlik bilgilerini önemli bir tüketim yaratmadan doğrulamak için bazen yalnızca tek bir çıktı belirteci içeren minimal API isteklerinin kullanıldığını gözlemledi.
Agentic yapay zekâ firması Swimlane'de önde gelen güvenlik otomasyon mimarı Nick Tausek'e göre LLM erişimini bu kurnaz yolla elde edip satmak, kuruluşların farkında olmadan değerli kaynaklardan vazgeçmesi anlamına gelebilirken saldırgan para kazanıyor.
"Bulut faturasının neden patladığını biri sorduğunda saldırganın zaten ücretli müşterileri olmuş olabileceğini" söylüyor. "Çalınan model erişimini satmak, suçlulara bu erişimi mümkün olduğunca uzun süre çalışır tutma nedeni veriyor; bu da harcama artışından önceki sessiz faaliyetleri özellikle önemli kılıyor."
Tausek'e göre bu durum, kuruluşların yalnızca olağandışı tüketim aramak yerine tehlikeye atılmış kimliklerin, yetkisiz izinlerin ve yapay zekâ hizmetlerine yönelik şüpheli erişimin erken göstergelerini tespit etmesi gerektiği için belirgin bir algılama sorunu oluşturuyor.
Mesleğin Püf Noktaları
Rapor, saldırganların kuruluşları nasıl tehlikeye atıp LLMjacking yaptığına dair birkaç örnek özetliyor; bir LLM'ye başarılı ve yasa dışı erişim için tek bir yol olmadığını gösteriyor.
Örneğin yılın ortasında UNC6993 olarak izlenen bir tehdit kümesi, yanlış yapılandırılmış bir hizmet hesabı anahtarı üzerinden bir bulut örneğini tehlikeye atıp bunu bir LLM API'sine daha fazla erişim sağlamak için kullandı. Saldırganlar ayrıca LLM kullanıcılarının bir grubuna katılmak için bir uygulama portalını taklit eden bir oturum ele geçirme sayfası da barındırdı.
Araştırmacılar açıkladığına göre "Bu sayfa kullanıcıları meşru LLM hizmeti web sitesine yönlendirip aktif bir erişim belirteci içeren ham JSON yüklerini yapıştırmaları konusunda kandırıyor; bu yük daha sonra şifre ve çok faktörlü kimlik doğrulama MFA kontrollerini atlamak için arka uç API'sine gönderiliyor."
Başka bir olayda bir tehdit aktörü, konteynerleştirilmiş bir bulut ortamında çalışan bir paketteki şüpheli bir web uygulaması açığına, özel kod depolarına erişmek için çalınan bir kişisel erişim belirteci PAT ile birleştirerek ilk girişi sağladı.
Google'a göre benzer şekilde farklı bir tehdit aktörü, saldırganın çok faktörlü kimlik doğrulama korumalarını atlamasını sağlayan yeni erişim anahtarlarını programlı olarak oluşturmak için tehlikeye atılmış bulut federasyon belirteçlerini kullandı.
LLMjacking Aktörleri Karışık Hareket Ediyor
Bir LLM'ye erişim sağlandıktan sonra saldırganların para kazanması için bu erişimin satılması gerekiyor. Google'a göre LLMjacking iş modelinin bu kısmındaki kilit unsur LLM Mixer adı verilen yeraltı hizmeti; bu hizmet ticari yapay zekâ modellerine yönelik çalınan erişimi abonelik işine dönüştürüyor. Bu hizmetler tehlikeye atılmış kimlik bilgilerini topluyor, müşteri isteklerini mağdur ortamlarından yönlendiriyor ve primli modellere meşru piyasa fiyatlarının önemli ölçüde altında erişim sunuyor.
Araştırmacıların tarif ettiği gibi LLM mixer'lar yasa dışı aracılar olarak çalışıyor; siber suçluların müşterilerinin kendi meşru API kimlik bilgileri ya da bulut altyapısına ihtiyaç duymadan tehlikeye atılmış kurumsal LLM hesaplarına erişimi yeniden satmasına olanak tanıyor.
"Bir soruşturmada GTIG, kurumsal LLM altyapısını tehlikeye atmak ve paraya çevirmek için iş birliği yapan iki ayrı operasyonel küme gözlemledi; bu durum bu alanda ortaya çıkan sofistike uzmanlaşmayı gösteriyor" diye yazdılar araştırmacılar.
Gerçekten de LLM Mixer'lar, kurumsal yapay zekâ erişimini çalmayı mali açıdan cazip kılan paraya çevirme katmanını sağladığı için gelişen LLMjacking ekosisteminin önemli bir parçası.
LLMjacking'e Karşı Savunma Stratejileri
LLMjacking mümkün olduğunca uzun süre mağdurların farkında olmamasına dayandığı için büyük bir kaynak tüketimi faturası ödememek için anahtar, izinsiz girişe mümkün olan en kısa sürede fark etmek.
Google'a göre bunu yapmak için savunma ekipleri, bulut hizmetlerine erişim sağlamak ve kötüye kullanmak için en yaygın iki yol olan kimlik ve erişim yönetimi ile tedarik zinciri güvenliğine öncelik vermeli.
Bulut ortamında LLMjacking'i önlemeye yönelik diğer iyi uygulamalar arasında merkezi bir gizli bilgi yönetimi platformu kullanarak iyi kimlik bilgisi hijyeni; kullanıcıların ve hizmet hesaplarının yalnızca belirli rolleri ve gerekli görevler için gereken izinlere sahip olmasını sağlayarak en az ayrıcalık ilkesi; ve GitHub ve GitLab gibi kod depolarında gizli bilgi taramasını otomatikleştirerek kod izleme yer alıyor.
Google'a göre rutin yapılandırma denetimleri, hız sınırlaması, ağ izin listesi, bütçe uyarıları ve çok faktörlü kimlik doğrulama da iyi savunma stratejileri arasında.
