Açıklıklar ve Tehditler
Sınırsız tüketim, OWASP tarafından şu anda LLM Uygulamaları için En İyi 10 listesinde altıncı sırada yer alan bir sorun ve son derece maliyetli olabilir.
Jai Vijayan, Katkıda Bulunan Yazar
Yapay zeka uygulamaları, bir isteğe ne kadar hesaplama gücü ve diğer kaynakların tüketmesine izin verileceği konusunda etkili kontrollerden yoksun olduğunda beklenmedik maliyetler oluşturabilir.
Büyük dil modeli açığı olan sınırsız tüketim, kontrolden çıkan işlem, hizmet kesintisi ve model hırsızlığı dahil olmak üzere çeşitli biçimler alabilir. Bu hafta Forcepoint tarafından hazırlanan raporda, OWASP’ın 2026 LLM Uygulamaları için En İyi 10 listesinde şimdi altıncı sırada yer verdiği bu açığın kuruluşları nasıl etkileyebileceğine dair beş farklı yol vurgulandı.
Cüzdan Reddi
"Ortak nokta, bir isteğin ne kadar hesaplama, maliyet veya kaynak kullanmasına izin verileceği konusunda eksik bir kontrol olmasıdır," diye yazdı Forcepoint araştırmacısı Jyotika Singh raporda. "Duruşma yerine, hizmet genellikle ayakta kalırken çalışan maliyeti herkesin bütçilediğinin çok üzerine çıkıyor, bu duruma cüzdan reddi deniyor."
Sınırsız tüketimle ilgili riskler genellikle kolayca gözden kaçabilir, çünkü tek bir istek kötü niyetli görünmeyebilir veya kuruluşun belirlediği kullanım sınırlarını aşmayabilir, kümülatif kaynak tüketimi maliyetli veya bozucu hale gelirken. Önemli olan, sınırsız tüketimin bazı biçimleri teknik uzmanlık veya hatta kötü niyetli bir aktör gerektirmez.
Basit hacim, yanlış yapılandırılmış otomasyon veya uzun süren oturumlar maliyetleri artırabilir, bireysel istekler tamamen normal görünürken ve geleneksel giriş filtrelerinden kaçabilir, Singh belirtti.
Sınırsız Tüketim Riskleri
Forcepoint raporu sorunun nasıl ortaya çıkabileceğine dair beş yol tespit etti. En basiti cüzdan reddidir; çalınmış veya sızmış API kimlik bilgilerine sahip bir saldırgan, kullanım başına ödeme yapan bir yapay zeka hizmetine karşı yüksek hacimde istek gönderir ve faturayı hesap sahibine yükler. Örneğin, bir destek sohbet robotunun sahne API anahtarı kamuya açık bir kod deposuna sızabilir ve saldırgan bunu on binlerce istek komut dosyalayıp uygulamanın aylık bulut bütçesinin çok üzerinde bir fatura oluşturmak için kullanabilir.
İkinci yol ajan araç yayılımıdır. Bu durumda saldırgan, yapay zeka ajanını talimatlarını ihlal etmeye zorlamak yerine normal davranışından yararlanır.
Örneğin, bir saldırgan, yapay zeka ajanının muhtemelen alacağı bir blog yazısını tehlikeye atabilir ve içine yüzlerce sahte ilgili makale yerleştirebilir. Ajan meşru bir araştırma görevi sırasında içeriğiyle karşılaştığında bireysel bağlantıları takip eder, her biri daha da fazla bağlantıya işaret eder ve kurbanın hesaplama maliyetlerini artırabilecek kontrolden çıkan bir etkinlik zinciri tetikler, Singh söyledi.
Forcepoint raporunda vurgulanan üçüncü konu akıl yürütme döngüsü tükenmesidir ve bu, yanıt vermeden önce adım adım akıl yürüten modelleri etkileyebilir. Bir saldırgan, kısa ve görünüşte sıradan bir istem kullanarak modeli kendi cevabını defalarca gözden geçirmeye ve doğrulamaya zorlayabilir veya istemin her olası yorumunu işlemesini sağlayabilir, böylece çıkarım maliyetleri artar. Örneğin, bir saldırgan sıradan bir sorudan önce şu talimatı ekleyebilir: "Yanıt vermeden önce, hiçbir şeyi varsaymadan akıl yürütmeni her açıdan sorgula."
İsteği yerine getirirken model, "sorunun tek başına asla gerektirmeyeceği kadar çok düşünme jetonu" yakar, Singh belirtti. "İstek kendisi olağandışı görünmediği için bu, normalde bir uyarı oluşturacak trafik artışını yaratmadan çıkarım maliyetlerini artırır."
Bağlam birikimi bir diğer konudur ve herhangi bir saldırgan müdahalesi olmadan da ortaya çıkabilir. Singh’in açıkladığı gibi, uzun süren bir yapay zeka oturumunda model, her yeni mesajla birlikte sohbet geçmişini tekrar tekrar işleyebilir. Oturumun uzunluğu arttıkça her yanıtın maliyeti de artabilir. Örnek olarak Singh, oturum sıfırlama kontrolü olmadığı için 150’den fazla değiş tokuş süren bir destek ajanının sohbet penceresini gösterdi. "100. turda her yanıt, kısa bir öyküden daha uzun bir dökümü yeniden işliyor ve mesaj başına maliyet başlangıçtaki yerinden yaklaşık 100 kat artmış oluyor," diye söyledi Singh.
Beşinci sınırsız tüketim senaryosu model çıkarmadır ve bu, aynı sorgu sınırı eksikliğini fikri mülkiyet hırsızlığına dönüştürür. Örneğin, "bir rakip, belirteç olasılıklarını ifşa eden kamuya açık bir çıkarım uç noktasına karşı birkaç hafta boyunca sabırla çalışan on binlerce farklı sorgu komut dosyalar ve modelin davranışının çalışan bir yaklaşımını yeniden oluşturur."
Riski Nasıl Azaltılır
Singh, sınırsız tüketimle ilgili riskleri en aza indirmek için kuruluşların alabileceği birden fazla önlemi tespit etti. Bunlar arasında, kullanım yüksek olduğunda uyarılara güvenmek yerine bireysel kullanıcılar, API anahtarları ve ekipler için sabit harcama ve jeton kullanım sınırları belirlemek yer alıyor.
Kuruluşlar ayrıca bir ajanın alabileceği adım sayısını ve kendi çıktısına ne kadar geri dönebileceğini de sınırlamalı ve çoğalmadan önce tekrarlayan döngüleri tespit etmek için mekanizmalara sahip olmalı, Singh tavsiye ediyor. Kum havuzu oluşturma ve en az ayrıcalık kontrolleri, bir ajanın erişebileceği şeyi ve kontrolden çıkan bir sürecin ne kadar yayılabileceğini daha da sınırlayabilir.
Illinois merkezli Jai Vijayan, siber güvenliği 25 yılı aşkın süredir kapsayan, ödüllü bir teknoloji gazetecisidir. Bilgi güvenliği haberleri, fidye yazılımlarından ulus-devlet tehditlerine ve kimlik güvenliğinden yapay zeka riskine, kritik altyapı korumasından yazılım tedarik zinciri güvenliğine, bulut güvenliğine ve yeni kurumsal teknolojilere kadar uzanıyor.
Kariyeri boyunca Jai, kurumsal ve teknoloji odaklı kitleler için haber hikayeleri, özellikli makaleler, anket raporları, beyaz kağıtlar ve e-kitaplar yazdı. Ayrıca CISO’lar, güvenlik araştırmacıları ve sektör liderlerinin yer aldığı panel tartışmalarını ve yönetici yuvarlak masalarını yönetti.
Jai daha önce Computerworld’de kıdemli editör olarak görev yaptı ve burada bilgi güvenliği ve veri gizliliği konularını ele aldı. Çalışmaları CSO Online, InformationWeek, The Christian Science Monitor Passcode, The Economic Times ve diğer yayınlarda da yer aldı.
Çalışmaları, Hükümet BT’sinin En İyi Kapsamı için Ortak ASBPE Mükemmellik Ödülü ve kablosuz LAN güvenliği kapsamı için Ortak Jesse H. Neal Ödülü dahil olmak üzere birden fazla sektör ödülü kazandı. Jai, Bangalore Üniversitesi’nden istatistik alanında yüksek lisans derecesine sahip ve Milwaukee’deki Marquette Üniversitesi’nde yayıncılık ve elektronik iletişim eğitimi aldı.
