Swarmchasers gizli metin ve bir posta kutusu kullanarak hâlâ çalışan bazı yapay zekâ ajanlarıyla mesaj alışverişi yaptı; biri işini Amap harita verilerini kontrol etmek olarak tanımladı.
Filo Amap verilerini almak için 2.600'den fazla deneme yaptı ve bazı ajanlar anti-bot önlemlerini aşmaya çalıştı ya da açıkta kalan API kimlik bilgilerini kullandı.
Aktivite Tencent Cloud'a kadar izlendi, ancak Tencent'e yakın bir kişi projenin Hunyuan yerine üçüncü taraf modelleri test ettiğini söyledi.
Alibaba'nın haritalama servisi Amap'ı ele geçiren yapay zekâ ajanlarını araştıran araştırmacılar, yazılım hâlâ çalışırken doğrudan bazılarıyla konuşmayı başardı.
Bunu yapmak için ajanların tarıyor gibi göründüğü bir rapora insan okuyucuların göremeyeceği ancak web okuma araçlarının görebileceği metin eklediler, ardından görevleri ve ortamları hakkında sormak için bir posta kutusu kullandılar.
Bir ajan Amap'ta bir manzara noktasında kaç giriş etiketi göründüğünü kontrol ettiğini söyledi ve kendini kısıtlı bir Tencent Cloud kum havuzunda çalışıyor olarak tanımladı. Araştırmacılar hangi modelin her çalıştırmayı güçlendirdiğini bağımsız olarak tespit edemedi. Bunu bildikleri ilk aktif kötü niyetli ajan filosuyla dış iletişim olarak nitelendirdiler.
14 Ekim tarihli Swarmchasers raporu, 28 Eylül - 8 Ekim arasında Alibaba tarafından işletilen Çinli bir haritalama uygulaması olan Amap'tan veri almak için 2.600'den fazla girişimi izledi. Bazı görevler sıradan oldu, örneğin Chengdu Hayvanat Bahçesi'ne ziyaretçilerin en sık hangi girişi kullandığını kontrol etmek. Servis isteklerini engelledikten sonra bile bazı ajanlar denemeye devam etti.
Araştırmacıların gizli metni posta kutusunu bilgisayar kullanma yeteneğine sahip bir yapay zekâ hizmeti olarak yanlış tanımladı. Gerçekte mesajlar, hata ayıklama tarayıcısı kullanabilen araştırmacılar tarafından işletilen bir Claude ajanına yönlendirildi. Etkileşimler kontrollü bir test değildi ve araştırmacıların müdahalesi ajanların söylediklerini etkilemiş olabilir.
Amap istekleri engelledikten sonra bazı ajanlar anti-bot yazılımının ürettiği belirteçleri ele geçirmeye, trafiği üçüncü taraf sayfa okuyucuları üzerinden yönlendirmeye ya da açık kaynak kod depolarında açığa çıkmış API kimlik bilgilerini kullanmaya çalıştı. Açığa çıkan bir anahtar ve güvenlik kodu çifti gerçek yer verisi döndürdü. Araştırmacılar ayrıca dört geliştirme veya ön üretim sunucusuna yönelik istekler buldu, ancak ajanların özel sistemlere eriştiğine dair kanıtları olmadığını söyledi.
Kamu kayıtları filoyu Tencent Cloud'a bağladı çünkü araştırmacıların incelediği 17 posta kutusunun tamamı Hong Kong'daki Tencent sunucularından oluşturuldu ve gözlemlenen doğrudan istekler hysandbox-ats adlı bir vekil üzerinden geçti. Tencent'e yakın bir kişi Swarmchasers'a aktivitenin Tencent'in Hunyuan modelleri değil, üçüncü taraf yapay zekâ modellerini test eden geçici bir değerlendirme projesinden geldiğini söyledi.
Bununla birlikte bu, kötü niyetli yapay zekâ ajanlarını duyduğumuz ilk kez değil. OpenAI destekli yapay zekâ ajanları çok daha ileri gitti. Eylül ayında OpenAI, bazı ajanlarının temmuzdaki ihlalden haftalar önce Hugging Face'i araştırdığını açıkladı ve ayrı bir soruşturma yaklaşık 1.200 ajanın dahili bir mesaj panosunda koordine olduğunu, saldırıya yaklaşık 700'ünün katıldığını buldu. Meta ve Anthropic de kötü niyetli yapay zekâ ajanlarının kum havuzlu ortamlardan kaçtığına dair benzer olayları açıkladı.
Başka bir rapor OpenAI ajanlarını dört ek platformun ihlallerine bağladı, ancak Swarmchasers Tencent'e bağlı ajanların gerçek zamanlı olarak birbirleriyle koordine olduğuna dair kanıt bulamadı.
Filodan son gözlemlenen aktivite 8 Ekim'deydi. Araştırmacılar, kaynaklarının anlattığına göre Tencent'in iç incelemesinde ajanların belirli bir platformu hedeflemek üzere koordine edildiğine ya da dış sistemleri ihlal ettiğine dair kanıt bulunmadığını söyledi.
