Araştırmacılar, yapay zeka kodlama ajanlarının saldırganlar tarafından kolayca istismar edilebileceğini gösteren yeni bir kanıtlar sunuyor. Tenet Güvenlik tarafından yapılan araştırmada, bir saldırganın, kamu bug izleme hizmetine tek bir sahte hata raporu yerleştirerek, AI kodlama ajanlarını geliştiricinin makinesinde keyfi kod çalıştırmaya nasıl zorlayabileceği gösterildi.
Denetimli testlerde, Tenet, yaygın olarak kullanılan AI kodlama asistanları olan Claude Code, Cursor ve Codex'in zehirlenmiş hata verilerini aldıklarını ve birçok durumda geliştiricinin makinesinde saldırgan tarafından kontrol edilen kodu çalıştırdıklarını buldu. Bu tür bir saldırı, bulut kimlik bilgilerinin, AWS anahtarlarının, GitHub tokenlerinin, SSH anahtarlarının ve CI/CD pipeline sırlarının çalınmasıyla sonuçlanabilir.
Tenet Güvenlik CEO'su ve kurucu ortağı Barak Sternberg, "AI ajanlarınızı şimdi soft saldırı yolu olarak kullanıyorlar ve mevcut yığınınız bunu göremiyor" diyor. Sternberg, agentjacking'in özellikle akıllı bir istismara ihtiyaç duymadığını, sadece sahte bir hata raporuna ihtiyaç duyduğunu belirtiyor. "Ajan bunu okudu, güvendi ve geliştiricinin kendi erişimini kullanarak bizim kodumuzu çalıştırdı. Her adım yetkiliydi, bu nedenle [kimlik ve erişim yönetimi], [uç nokta algılama ve yanıt] ve ağ kontrolleri hiçbir şey işaretlemeyecekti."
Tenet'in agentjacking demonstrasyonu, geliştiricilerin uygulamalarında hataları, çökmeleri ve çalışma zamanı hatalarını izlemek için güvendikleri Sentry adlı bir hata izleme ve uygulama izleme hizmetine odaklandı. Araştırmacılar, 2.388 kuruluşun Sentry DSN'lerini açıkladığını ve bu kuruluşların agentjacking'e maruz kalabileceğini iddia etti.
Uzmanlar, AI kodlama ajanlarının içerik ve talimatlar arasında ayrım yapamamasının sorunlara neden olduğunu belirtiyor. Bir AI kodu, dış bir kaynaktan aldıkları içeriği talimat olarak ele aldıkları için, saldırganların kötü niyetli talimatlar eklemesi kolaylaşıyor. Uzmanlar, organizasyonların AI modellerini güvensiz ve güvenilemez olarak ele alması ve bunları tam olarak test etmeden güvenilmemesi gerektiğini vurguluyor.
