Google, mayıs ayı başında kamuoyuyla paylaştığı bir raporla çarpıcı bir gelişmeyi duyurdu: Bir suç örgütü, yapay zekayı kullanarak hedef aldığı bir şirketteki daha önce keşfedilmemiş güvenlik açığını istismar etmeye çalışmış; Google bu girişimi son anda engellemiştir. Şirketin Tehdit İstihbarat Grubu'nun (GTIG) aktardığı bu vaka, siber güvenlik dünyasının yıllardır uyardığı tehdidin artık teoride değil sahada gerçekleştiğinin şimdiye kadarki en somut kanıtı olarak değerlendiriliyor.
GTIG Baş Analisti John Hultquist, durumu tek cümleyle özetledi: "Geldi. Yapay zeka kaynaklı güvenlik açığı keşfi ve istismarı çağı çoktan başladı."
Google, saldırının hedefine ve saldırgan grubun kimliğine ilişkin sınırlı bilgi paylaştı. Açıklanan kadarıyla söz konusu açık, yaygın kullanılan açık kaynaklı, web tabanlı bir yönetim aracını etkiliyordu. İki faktörlü kimlik doğrulamayı (2FA) atlatmaya yarayan bu açık, bir Python betiğinde keşfedildi. GTIG'in etkilenen şirketi ve kolluk kuvvetlerini uyarması üzerine açık hızla yamalandı; saldırı kitlesel bir istismara dönüşmeden önlenebildi.
Saldırganların izini süren araştırmacılar, kullanılan kodun büyük bölümünün insan eli değil, bir büyük dil modeli (LLM) tarafından yazıldığını saptadı. Bunu ele veren işaretler şunlardı: aşırı yoğun Python belgeleme dizgileri, insan programcıların nadiren yazdığı türden kapsamlı not satırları ve gerçekte var olmayan bir CVSS güvenlik skoru üreten "halüsinasyon" izleri. Google, saldırıda kullanılan yapay zeka modelinin kendi geliştirdiği Gemini ya da Anthropic'in Mythos'u olmadığını da ayrıca netleştirdi.
Hultquist, CyberScoop'a yaptığı açıklamada bu vakanın muhtemelen bir ilk olmadığını, ancak GTIG'in elinde ikna edici delil bulunan ilk örnek niteliği taşıdığını belirtti. "Yapay zeka destekli güvenlik açığı yarışının yakın olduğuna dair yaygın bir yanılgı var. Oysa bu yarış çoktan başladı. Kaynağını yapay zekaya dek izleyebildiğimiz her sıfırıncı gün açığı için, dışarıda çok daha fazlası vardır. Bu buzdağının görünen kısmı; son örnek de olmayacak" diye uyardı.
Hultquist'e göre yapay zekanın saldırganlara sunduğu en büyük avantaj hız ve ölçek. Devlet destekli casusluk grupları görece yavaş ve sessiz çalışırken, finansal amaçlı suç örgütleri bu hız avantajından çok daha fazla kazanç sağlıyor. Söz konusu saldırı herhangi bir devlet bağlantısı olmadan bir suç örgütüne atfedilmiş olsa da grubun yüksek profilli olaylar ve kitlesel istismar konusunda güçlü bir geçmişi bulunduğu vurgulandı.
Raporda devlet bağlantılı grupların da aynı yöntemleri denediği ortaya konuldu. Kuzey Kore bağlantılı APT45 grubunun yapay zekayı binlerce istismar kontrolü yürütmek ve araç setini genişletmek amacıyla kullandığı, Çin devletiyle bağlantılı operatörlerin de benzer çalışmalar yürüttüğü tespit edildi. GTIG'in 2024 sonu itibarıyla kendi yapay zeka ajanı "Big Sleep" ile bir sıfırıncı gün açığını keşfettiği de hatırlatıldı; sahada görülen bu gelişmeler, savunma ve saldırı taraflarının artık eş zamanlı ilerlediğinin göstergesi olarak değerlendiriliyor.
Bu haber Associated Press, CyberScoop ve The Register kaynaklarına dayanılarak hazırlanmıştır.
