Wake Forest Üniversitesi'nden araştırmacılar, 444 iOS AI sohbet botu uygulamasını test etti ve bunların 282'sinin, neredeyse üçte ikisinin, ağ trafiği aracılığıyla ücretli AI erişimini ortaya çıkardığını buldu.
Çoğu durumda, girilen yol, uygulamanın gönderdiği şeyi izleyerek görülebiliyordu: plaintext API anahtarı, yeniden kullanılabilir token veya arka plandaki sunucunun hiçbir anahtar olmadan istekleri kabul etmesi.
Herhangi biri bu anahtarı ele geçirebilir ve geliştiricinin hesabında model istekleri gönderebilir, böylece geliştirici faturayı öder. Araştırmacılar geliştiricileri uyarmadan üç ay sonra, sadece %28'i bu sorunu çözmüştü.
Wake Forest Üniversitesi'nden araştırmacıların yaptığı bu çalışma, iOS'da bu sorunun ilk derinlemesine çalışmasıdır. Şaşırtıcı olmasının nedeni, casusluk için gereken az çabadır. Ekibin kullandığı araç, LLMKeyLens, bir uygulamanın trafiğini izler ve geçen anahtarları çıkarır. Hiçbir jailbreaking, hiçbir uygulamayı açmak gerekmez.
Anahtar, uygulamanın OpenAI veya Google Gemini gibi bir hizmeti çağırmaya izin veren sırdır. Uygulamaya gömülüdür ve uygulamanın her isteğiyle ortaya çıkar.
Tüm 282 uygulama, üç gruba düşer:
- Plaintext anahtarlar (54 uygulama): Anahtar açıkça gönderilir ve tek bir yakalanan istekten okunabilir.
- Hiçbir anahtar gerekmez (92 uygulama): Uygulama, herhangi bir kimlik kontrolü olmadan herkesin isteklerini yanıtlayan bir sunucuya istekleri yönlendirir. Ücretli bir AI hesabına açık bir röle.
- Yeniden kullanılabilir tokenler (136 uygulama, en yaygın): Uygulama, ham anahtar yerine geçici erişim tokenleri verir, ancak tokenler aynı trafiğin içinde sızdırılır ve genellikle yakalandıklarında hala geçerlidir. Bazıları geçici değildir, aşağıdaki örneklerde görüldüğü gibi.
54 plaintext anahtarlı uygulamanın 28'i için, aynı istek ayrıca uygulamanın gizli sistem istemini de ortaya çıkardı, yani asistanın ne yaptığını ve ürünün nasıl çalıştığını tanımlayan arka plandaki talimatlar. Tek bir yakalama, iki ödül.
Sızıntılar en az on AI sağlayıcısını kapsar, en yaygın olanı OpenAI'dir ve 13 uygulama kategorisi boyunca yayılır. Verimlilik uygulamaları en büyük gruptur; sağlık ve fitness uygulamaları en yüksek sızıntı oranına sahiptir. Finans ve tıp uygulamaları, dikkat çekici bir şekilde, hiçbir şey sızdırmaz. En çok etkilenen uygulamalar küçüktü, ancak hepsinin öyle olmadığı da doğru değil: bunlardan biri iki milyondan fazla kullanıcı puanına sahipti.
