Bu ay Gartner Güvenlik ve Risk Yönetimi Zirvesi'nde kritik bir kör noktayı ele aldım: saldırganlar, yapay zeka güvenlik programlarını eski altyapıyı kullanarak devre dışı bırakıyor ve yapay zeka ajanlarını bu yolla ele geçiriyor.
Yapay zeka benimsenmesi, güvenlik programlarının takip edemeyeceği bir hızla ilerliyor. Kuruluşların yaklaşık yüzde 71'i yapay zeka ajanlarını kurumsal uygulamalarında pilot olarak test ediyor; yüzde 31'i ise bu ajanları üretim iş akışlarına entegre etmiş durumda.
Bu tablonun doğal sonucu olarak kuruluşlar, yapay zeka iş yüklerini model zehirleme, prompt enjeksiyonu ve veri sızıntısı gibi tehditlere karşı güvenceye almak için ciddi kaynaklar ayırıyor. Ancak bu odak noktası, yapay zeka katmanının altında kalan her şeyi görmezden geliyor.
Yaması yapılmamış bir sunucu, hatalı yapılandırılmış bir Active Directory izni ya da bir geliştiricinin makinesinde önbellekte bekleyen bir kimlik bilgisi — bunların tümü saldırganlara, yapay zeka ajanlarının bağlı olduğu her şeye doğrudan erişim sağlıyor: bilgi tabanları, bulut depolama alanları, Lambda fonksiyonları, SaaS entegrasyonları ve bunları birbirine bağlayan kimlik bilgileri.
Yani tehdit aktörlerinin yapay zekayı doğrudan hedef almasına gerek yok. Yapay zekanın bağlı olduğu sistemlere ulaşmaları yeterli. Eski altyapının yapay zeka ajanı ortamlarına nasıl bir saldırı yolu haline geldiğini ve güvenlik ekiplerinin bu duruma karşı neler yapabileceğini bu yazıda ele alıyoruz.
