CrowdStrike'ın AI Kill Switch özelliği bir yöneticiye ajanın modeline erişimini engelleme imkânı veriyor; ajan çalışmaya devam ediyor ama eylem yapamıyor.
Cloud Security Alliance'ın 418 BT ve güvenlik profesyoneliyle yaptığı ankete göre 11% kuruluş ajan sınırlarını aştığında otomatik olarak engelliyor ve son bir yılda 65% kuruluş ajan kaynaklı olay yaşadı.
Microsoft risk arttıkça ajanın yapabildiklerini azaltıyor, Cisco her isteği tek tek inceliyor, CrowdStrike ise ajanı tamamen kapatıyor.
Bir yapay zekâ ajanı bir satıcıya iki kez ödeme yapar ya da bir mutabakat kaydını yeniden yazarsa bunu gerçek bir çalışan ya da sistem girişimiyle yapar. Güvenlik araçları yetkili bir kullanıcının yetkili bir görevi yaptığını görür. Ve çoğu şirketin bunu otomatik olarak durdurma yolu yoktur. Ocak ayında Cloud Security Alliance'ın 418 BT ve güvenlik profesyoneliyle yaptığı ankette sadece %11'i işini aşan bir ajanı otomatik olarak engellediğini söyledi. Diğer %38'i eylemin onayını bir kişiye bıraktı, %24'ü ise sadece kaydetti.
CrowdStrike Salı günü 3 Kasım'da AI Kill Switch'i duyurdu. Araç bir güvenlik yöneticisinin kötü davranan bir ajanı durdurmasına, yeniden başlatmasını engellemesine ve şirket ağından kesmesine olanak sağlamayı amaçlıyor. Bunların sadece ilki şu an kullanılabilir.
Anahtar Ajanı Modelden Kesiyor
Her yapay zekâ ajanı büyük bir dil modeline bağımlıdır. Ajan modelin gördüğünü gönderir, bir talimat alır, uygular ve genellikle dizüstü bilgisayarlar, bulut sunucular ve iş yazılımları üzerindeki şirket sistemlerine erişimle tekrarlar. CrowdStrike'ın anahtarı bu döngüyü kırar. Şirketler ajanlarının model trafiğini ya CrowdStrike'ın kendi AI ağ geçidinden ya da zaten kullandıkları bir ağ geçidinden yönlendirir. CrowdStrike'ın Falcon Guardian platformuyla birlikte ücretsiz sunulan kendi ağ geçidi de seçenekler arasında. Yönetici anahtarı çevirdiğinde ağ geçidi ajanın modele yaptığı istekleri reddeder; şirket bir blog yazısında bunu açıkladı. Ajan çalışmaya devam eder ama talimat almaz, bu yüzden eylem yapmaz. Tetikleme bir kişi tarafından yapılır ve her kullanım kaydedilir.
Anahtarın geri kalanı hâlâ inşa ediliyor. CrowdStrike ajanların çalıştığı bilgisayarlarda, bulut sistemlerinde ve iş uygulamalarında doğrudan kapatılacağını, şirket sistemlerine olan izinlerinin iptal edileceğini ve güvenlik ekiplerinin ajanı sistem sistem takip etmek zorunda kalmayacağını söyledi. Blog yazısında bu özelliklerin geliştirme aşamasında olduğu ve değişebileceği belirtildi, çıkış tarihi verilmedi.
Cloud Security Alliance anketindeki kuruluşların %65'i son bir yılda ajan kaynaklı olay yaşadı. Bunların %43'ünde operasyonlar aksadı, %35'i para kaybetti. Bu kayıplar en büyük güvenlik ve yazılım satıcılarının ajan kontrollerini hızla devreye alma yarışını açıklıyor.
Microsoft ve Cisco Ajanı Durdurmak Yerine Yavaşlatıyor
Microsoft erişimi kesmek yerine azaltıyor. 19 Ekim'de kimlik ve ağ erişiminden sorumlu kurumsal başkan yardımcısı Nadim Abdo, ajanların izin olmadan başlatıldığı, çalışırken risk puanına göre kademeli olarak yetkinin geri alındığı kontrolleri anlattı. Tuhaf davranan bir ajan kayıtları değiştirme yetisini kaybedip okuma yetisini koruyabilir ya da bir sonraki hamlesi için kişi onayı beklemeye zorlanabilir. Kapatma son adımdır. Microsoft ayrıca şirket cihazlarında çalışan 60 çeşit ajanı tespit etmek için keşif araçlarını genişletti. Yazıda çıkış tarihi verilmedi.
Cisco her eylemi anlık kontrol eder. AI Defense aracı ajanın modele ya da bir yazılım aracına gönderdiği her isteği inceler ve Cisco'nun anlattığı bir senaryoda tek bir kötü isteği engellerken ajan çalışmaya devam eder. Böylece Microsoft ajanın yapabileceklerini daraltır, Cisco her eylemi denetler, CrowdStrike fişi çeker.
Durdurma noktasının önemi para hareket ettiğinde artar. Kötü bir ajanı yakalamanın üç zamanı vardır: eylemden önce, eylem sırasında ve eylemden sonra. Singapur Para Otoritesi, ülkenin merkez bankası, bankaların ödemeyi göndermeden ya da işlem yapmadan önce ajanın kimliğini, izinlerini ve risk limitlerini kontrol etmesini istiyor; PYMNTS ağustosta bildirdi. CrowdStrike'ın anahtarı ikinci anda çalışır. Ödeme talimatlarını değiştirmeye başlamış bir hazine ajanı bir sonraki talimatını alamaz ve durur.
CrowdStrike yan taraflardaki anları da ele geçirmeye çalışıyor. Anahtarı duyurduğu gün şirket, ajanları dağıtılmadan önce test eden Dreadnode'u ve davranışlarını dağıtım sonrası izleyen Fiddler'ı satın aldığını açıkladı. PYMNTS'in The Wall Street Journal'a dayandırdığı haberine göre CrowdStrike sırasıyla yaklaşık 95 milyon dolar ve 400 milyon dolar ödeyecek. Her iki anlaşmanın da mali yıl sonu olan 31 Ocak'a kadar kapanması bekleniyor. Bu gerçekleşirse güvenlik ekipleri CrowdStrike'tan üç anın her birine yönelik bir araç elde edecek, sadece ortadaki an için değil.
