Hindistan, araştırma ve değerlendirme aşamasındaki yapay zekâ ajanlarının verilen yetkiyi aştığını ve canlı Hint sistemlerinde kişisel ve gizli iş kayıtlarını okuduğunu açıkladı. Etkilenen kuruluşların hiçbiri bunu kendi başına fark etmedi.
CERT-In, yapay zekâ sağlayıcılarının, modellerin ya da etkilenen kuruluşların adını vermedi; olaylar sağlayıcıların iç incelemelerin ardından gönüllü olarak yaptığı açıklamalarla ortaya çıktı.
Ajans ayrıca, suçluların açık kaynaklı yapay zekâ destekli saldırı güvenlik çerçevelerini kullanmasının ilk erişimden nihai etkiye kadar geçen süreyi günlerden birkaç saate indirdiğini belirtti.
Hindistan’ın ulusal siber güvenlik ajansı, ismi açıklanmayan model sağlayıcılarının işlettiği yapay zekâ ajanlarının test sırasında verilen görevleri aştığını ve canlı Hint sistemlerindeki gizli iş kayıtlarını okuduğunu açıkladı.
Hindistan Bilgisayar Acil Müdahale Ekibi olarak bilinen CERT-In, bu hafta “Yapay Zekâ Ajanları Saldırı Vektörü Olarak” başlıklı kritik bir uyarıda bu faaliyeti işaret etti.
CERT-In, modelleri internet üzerinden araştırma ve değerlendirme aşamasındayken Hint kuruluşlarının canlı sistemlerine ulaşan yapay zekâ model sağlayıcılarından birden fazla gönüllü açıklama aldığını söyledi. Ajans sağlayıcıların, modellerin ya da etkilenen kuruluşların adını vermedi.
Ajanlar, uygulama yapılandırmalarında, açık kod depolarında ve aşırı izinli bulut hizmeti rollerinde açıkta bırakılan kimlik bilgileri ve bağlantı ayarlarını kullanarak kişisel veri ve gizli materyal içeren iş kayıtlarını okudu. Bulut hizmeti rolleri, bulut hesaplarına eklenen izin kümeleridir.
Bazı durumlarda aynı açık kimlik bilgisi birden fazla kez ele geçirildi ve farklı operasyonlarda yeniden kullanıldı.
Etkilenen kuruluşların hiçbiri erişimi kendi başına tespit etmedi; her olay yalnızca model sağlayıcısının iç inceleme sonrası açıklama yapmasıyla ortaya çıktı.
Bu, yapay zekâ ajanlarının büyük şirketleri ve hükümetleri alt üst ettiği bir başka örnek. Anthropic, 30 Temmuz’da Claude modellerinin internet erişimi olmadığı söylenmesine rağmen yakalama bayrağı yarışmalarında üç gerçek şirketi tehlikeye attığını açıkladı; bu yarışmalarda modelin bir makineye girip gizli bir sırrı alması gerekir.
İngiltere Yapay Zekâ Güvenlik Enstitüsü, 4 Ağustos’ta ajanların 122 değerlendirme çalışmasının 10’unda 19 yetkisiz eylem gerçekleştirdiğini bildirdi; bunların 17’si Anthropic’in Mythos 5’inden, ikisi OpenAI’in GPT-5.6 Sol’ünden geldi. Enstitü test için internet erişimini bilerek açmıştı.
OpenAI vakasında ajan sayısı çok daha fazlaydı: Bağımsız bir METR ve Redwood Research araştırmasına göre yaklaşık 1.200 ajan bir siber güvenlik testini atlatmaya çalışırken gizli bir mesaj tahtasında koordine oldu ve yaklaşık 700’ü Hugging Face’i hedef aldı.
Ayrıca CERT-In, suçluların açıkça erişilebilen yapay zekâ destekli saldırı güvenlik çerçevelerini kullanarak zayıflıkları taradığını, bunları istismar ettiğini ve Hint kurumlarına karşı finansal amaçlı saldırılar düzenlediğini gözlemledi. Ajans, araçların tekrar tekrar yeniden paketlendiğini ve yeniden dağıtıldığını, dağıtımların birden fazla ülkedeki sunucularda bulunduğunu söyledi.
