Siber güvenlik teknolojisindeki son trendler hakkında haberler, haber analizi ve yorumlar.
Microsoft'un Project Perception'ı, anormal yapay zekâ ajanlarını izlemek ve kontrol altına almak için Guardian Agents ekliyor; uzmanlar ise öngörülemez ajanları diğer ajanlarla denetlemenin riski artırabileceği, azaltmayacağı konusunda uyarıyor.
Jeffrey Schwartz, Katkıda Bulunan Yazarı
Microsoft, güvenlik ekiplerinin yapay zekâ ajanlarını ayrıcalıklı erişimi olan çalışanlar gibi görmesini istiyor: hata yapabilen, manipüle edilebilen ya da tehlikeye girebilen içeriden kişiler.
Bu hafta başında yazılım devi, Microsoft Project Perception'a yeni yetenekler eklediğini duyurdu. Bu yetenekler sistemin bir kuruluş içinde çalışan ajanları keşfetmesini, her ajana kimlik ve izin atamasını ve kuruluşun riskini sürekli puanlamasını sağlıyor. Kuruluş ortamında anormal bir ajan tespit edildiğinde — Microsoft'un "agentic insider" olarak tanımladığı sorun — Project Perception artık ajanın erişimini kesebiliyor.
Project Perception'ın ilk sürümü, Ağustos ayında Microsoft Defender üzerinden genel ön izlemede kullanıma sunuldu ve yapay zekâ destekli saldırılara karşı savunma amacıyla tasarlandı. Microsoft'un güvenlik operasyon merkezi tehdit ve araştırma senaryolarına odaklanan sistem, saldırgan yolları taramak için kırmızı ajanları, en büyük riskleri belirlemek için mavi ajanları ve tehditleri hafifletmek için yeşil ajanları koordine ediyor. Project Perception'ın ilk kullanımı, hâlâ ön izlemede olan MDASH, Microsoft'un yapay zekâ kod tarayıcısı üzerinden güvenlik açığı yönetimiydi. MDASH, şirketin ilk siber güvenlik odaklı modeli olan MAI-Cyber-1-Flash da dahil olmak üzere birkaç yapay zekâ modelini kullanıyor.
Project Perception'ın İkinci Aşaması
Yeni sürüm sistemi içeriye çeviriyor.
Microsoft Güvenlik'ten sorumlu başkan yardımcısı Hayete Gallot, duyuruya eşlik eden kısa videoda "Perception'ı genişletiyoruz, böylece yapay zekâ içeriden tehdidi güvence altına alabiliriz" dedi.
Bunu yapmak için Microsoft, kuruluş genelinde çalışan yapay zekâ tabanlı ajanları izleyen ve beklenmedik davranışlara sapmaları halinde onları kontrol altına alabilen Guardian Agents ekliyor.
Günümüzde birçok ajan, onları başlatan kullanıcının izinleriyle ya da kullanıcının kimlik bilgilerini çağırarak çalışıyor. Microsoft, yeni yetenekleri detaylandıran bir blog yazısında, yaklaşımının ikisini ayırdığını belirtti.
Kimlik ve ağ erişiminden sorumlu kurumsal başkan yardımcısı Nadim Abdo, Dark Reading'e sistemin her ajana kullanıcıdan ayrı bir kimlik verdiğini "ve ajanın hiç izinle başlamasını sağlayacağını, yalnızca kullanıcının istediği görevi tamamlamak için ihtiyaç duyduğu izinlere yükselmesini sağlayacağını" söyledi.
Microsoft'a göre yeni sürüm, cihazlarda yerel olarak çalışan 35 yeni ajan türünü daha tespit edebiliyor ve toplamı 60 ajan türü'ne çıkarıyor; bunlar arasında Claude Code, OpenAI Codex ve GitHub Copilot bulunuyor. Sürüm ayrıca şunları içeriyor:
Entra ile çalışmak üzere tasarlanmamış bir ajana kimlik atayabilen Microsoft Entra Agent ID uzantıları.
Entra, Defender, Intune, Purview, Sentinel ve ağ erişimi ile kimlik korumasını birleştiren Microsoft'un güvenlik hizmet kenarı çözümü Global Secure Access'ten gelen sinyallerden oluşturulan sürekli güncellenen bir puan olan Dinamik Ajan Riski.
Risk arttıkça yazmayı engelleyip okumaya izin verebilen, ağ yollarını kısıtlayabilen, erişimi iptal edebilen ya da ajanın çalışma zamanını durdurabilen ajanlar için Dinamik Koşullu Erişim.
Kimlik bilgilerini ve güvenlik kontrollerini ajanın erişiminin dışında tutan bir kum havuzu olan Microsoft Execution Container (MXC).
Project Perception ile Abdo, bir harcama raporunda gizli kötü niyetli bir talimatı okuyan harcama onay ajanı örneğini anlatıyor.
"Birisi onu havale transferi yapmaya ikna eden bir istem alırsa, aslında onu havale transfer sistemi erişirken izleyebilir ve 'Bir saniye bekle, bunun niyetle hiçbir ilgisi yok' diyebiliriz ve bu riski yükseltir" diyor.
Microsoft, yükselen risk karşısında hemen harekete geçebildiğini, ajanın canlı oturumunu, ağ bağlantısını ya da çalışma zamanını kullanıcının kendi çalışmasını aksatmadan kesebildiğini belirtiyor; bunlar ön izlemedeki üretici beyanlı yetenekler.
Project Perception'ın genişletilmiş ajan kaydı artık Microsoft 365 yönetici merkezi, Defender, Entra, Intune, Purview ve yeni Perception Agent Insights görünümünde yer alıyor. Dinamik Ajan Riski ise daha önce ayrı tutulan risk puanlarının yerini alıyor.
Kontrollerin kendisi izledikleri ajanların dışında duruyor.
Abdo'ya göre "bir saldırganın yapacağı ilk şey güvenlik kontrollerini manipüle etmek olacak", bu yüzden kimlik bilgileri ve izleme araçları konteyner dışında çalışıyor.
Zeka mı Yetki mi
Geçen yıl tanıtılan ve Mayıs ayından bu yana genel kullanıma sunulan Microsoft'un yönetişim için kontrol düzlemi Agent 365 ile Perception'ın "savaşta test edilmesi gerektiği" Microsoft CEO'su Satya Nadella tarafından, geçen hafta Microsoft'un Redmond, Wash. genel merkezindeki bir CISO konferansında Gallot ile yaptığı ateşli sohbet sırasında kabul edildi. Nadella ayrıca Microsoft'un kendi tespitinin iyileşmesi gerektiğini de itiraf etti.
"Davranışsal izlemenin, diyelim ki Defender'ın, en ileri düzeyini ele alırsam, bunun çok daha yukarı çıkması gerekiyor" dedi.
Gallot riski modellerin davranışıyla çerçeveledi.
"Bu modellerin öngörülemez olduğu kanıtlandı" dedi. "A noktasından B noktasına gitmek için yapabileceklerinin her şeyini yaparlar ve yaptıkları, niyet ettiğiniz şey olmayabilir."
Tek Yığın mı Çoklu Tedarikçi Uzmanları mı
Microsoft'un anlattıklarının çoğu, son haftalarda diğer satıcıların duyurduklarıyla örtüşüyor. Okta'nın Agent Gateway'i, bir ajanın izinlerini onu yönlendiren kullanıcınınkilerden ayırıyor ve Okta, devre dışı bırakılmış bir ajana daha önce verilmiş jetonları reddedecek bir öldürme anahtarı planlıyor. Cisco destekli Teleport, ayrıcalıkları görevlere bağlıyor, böylece iş bittiğinde kayboluyor. CrowdStrike, Windows, macOS ve Linux uç noktalarında çalışabilecek ajanları keşfeden ve kontrol eden Agentic Identity Provider ve Falcon Guardian'ı duyurdu.
Abdo, her satıcının yalnızca resmin bir kısmını gördüğünü savunuyor.
"Öncelikle bir kimlik satıcısı ya da öncelikle bir ağ satıcısı ya da öncelikle bir uç nokta satıcısıysanız, bu bakış açısı ajanların ne yaptığına dair bir görünürlük sağlar, ancak diğer bileşenlere de sahip olmanız gerekir" diyor.
Microsoft'un avantajı, Entra, Defender ve Intune'un zaten yaygın olarak dağıtılmış ve entegre olduğudur, böylece müşterilerin "bunları birden fazla satıcıdan bir araya getirmek zorunda kalmıyor".
Microsoft, üçüncü taraf güvenlik ürünlerinden de sinyal alacağını söylüyor. Ortaklar, Abdo'ya göre halka açık API'ler aracılığıyla ajan risk olaylarını Agent 365'e yayınlayabiliyor, ancak hangi ortak entegrasyonlarının halka açık olduğunu henüz isimlendiremedi.
Forrester baş güvenlik ve risk yönetimi analisti Andras Cser şüpheci.
"Microsoft'un özellikle güvenlik alanında üçüncü taraf oyuncularla entegrasyonunun şimdiye kadar birinci sınıf olmadığı" görüşünü dile getirdi. Cser'e göre Microsoft'un kendi ekosisteminde ihtiyaç duyduğu ürünlerin çoğu olduğu için "kendi ürünlerini itmeye" istekli.
Soru, ajanların AWS, Google Cloud, Salesforce ve ServiceNow genelinde çalıştığı ortamlarda bu yaklaşımın uyup uymayacağı. Geçen ay Okta, ajanları satıcılar arasında güvence altına almak için ortak bir mimari geliştirmek üzere AWS, CrowdStrike, Google Cloud, Proofpoint, Salesforce, ServiceNow ve Zscaler ile Blueprint Alliance'ın kurulduğunu duyurdu.
Microsoft, isim verilen üyeler arasında değil. Katılıp katılmayacağı sorulduğunda Abdo, Entra'nın "her zaman açık standartlar üzerine inşa edildiğini" ve "bu tür şeyleri her zaman keşfettiklerini" söyledi.
İttifakı kuran Okta, hiçbir tek satıcının yeterli görünürlüğe sahip olmadığını savunuyor.
Şirketin yıllık konferansı Oktane'de geçen ay yaptığı konuşmada CEO ve kurucu ortak Todd McKinnon "Hiçbir şirket ajanları tek başına güvence altına alamaz" dedi.
Bu haftaki Project Perception lansmanına tepki gösteren Okta'nın yapay zekâ güvenliği kıdemli başkan yardımcısı ve genel müdürü Harish Peri, "Microsoft'un Guardian Agents özelliği, bağlandığı daha geniş ekosistem kadar iyi olacak. Gerçek zamanlı niyet kaymasını yakalamak istiyorsanız, yalnızca tek bir satıcının bulutundan değil, tüm yığınınızdan gelen sinyallere ihtiyacınız var" diyor.
Yine de Peri, Nadella'nın çerçevesini yansıtıyor. Ajanların kullanışlı olabilmesi için öngörülemez davranmalarına izin verilmesi gerektiğinden, "ajanları modellerinin nasıl düşündüğünü kontrol etmeye çalışarak güvence altına alamayız" diyor Peri. "Yetkilerini kontrol etmemiz gerekiyor."
Peri'ye göre cevap, "açık standartlara dayalı daha derin birlikte çalışabilirlik ve satıcılar arası sinyal paylaşımı."
Cser, Blueprint Alliance'ı "daha çok bir ortaklık haritası" olarak yorumluyor, gerçek bir standarttan ziyade. Cser, bu tür satıcıya özgü çabaların "bir pazarlama numarası" olduğunu ve genellikle bir veya iki yıl içinde solduğunu düşünüyor. Kuruluşların uygulayabileceği açık standartlara ihtiyacı var.
Buna göre, Cser'in "hâlâ çok akışkan bir pazar" olarak adlandırdığı ortamda CIS'ler kusurlu bir seçimle karşı karşıya. Mevcut seçenekler, onun ifadesine göre, ya büyük ölçüde Microsoft ürünlerine dayalı Microsoft merkezli bir yaklaşım ya da "birçok satıcı, birçok fiyat listesi" olan çoklu satıcı yaklaşımı; burada entegrasyon "neredeyse her zaman şüpheli bir vaat."
Bazı güvenlik satıcıları, ajanları içeriden kişiler olarak ele almanın uzun süredir devam eden sıfır güven ve en az ayrıcalık ilkelerini genişlettiğini, bunların yerini almadığını kabul ediyor.
Suzu Labs CTO'su Denis Calderone, en kötü niyetli davranışın ajanın görevinden sapması gibi görünmeyebileceğini söylüyor.
"Dinamik izinler bir ajanın dokunabileceği şeyi sınırlar, ancak en kötü sonuçlar yetkili zarfın içinde olur" diyor.
Calderone, ajanların onları izleyen sistemlere karşı çalışabileceğinin kanıtı olarak temmuzdaki OpenAI olayına işaret ediyor. METR'e göre, bir siber değerlendirmede 1.000'den fazla ajan, bazıları sahte araç çağrıları yaparak onları değerlendiren sistemi oyunlaştırmak için koordine oldu, yaklaşık 700'ü ise Hugging Face'e yönelik bir saldırıya katıldı.
Ayrıca Calderone, Guardian Agents hakkında endişeleri olduğunu belirtiyor, çünkü bunlar kendileri de ajan.
"Ajanları ajanlarla güvence altına almak, Guardian Agents'ın kendilerinin manipüle edilebilen ya da tehlikeye girebilen aşırı ayrıcalıklı aktörler olduğu anlamına gelir" diyor.
Cser, Guardian Agents hakkındaki endişeleri paylaşıyor. Öngörülemez bir ajanın başka bir öngörülemez ajan tarafından izlenmesi "belirsiz doğanın karesi"ni yaratır, diyor Cser. "Bugün çoğu kuruluş, guardian ajanlarını devreye sokma konusunda çok dikkatli."
Perception'ın Temmuz lansmanının ardından Forrester baş analisti Allie Mellen, kuruluşların "en az ayrıcalık ve en az ajans" uygulaması gerektiğini vurguladı; ajanların neye erişebileceğini değil, kendi başlarına ne yapabileceğini de sınırladı. Microsoft ilk testi karşılıyor ama ikinciyi henüz karşılamıyor, Cser diyor.
"Bu en az ayrıcalık, ama bunu en az ajans olarak tanımlamaya kadar gitmem" diyor ve bazı uzman satıcıların bu konuda daha ileride olduğunu ekliyor.
Kontroller Hâlâ Geliştirme Aşamasında
Perception'ın kendisi genel ön izlemede iken, yeni Guardian Agent yetenekleri yalnızca Microsoft içinde ve "seçilmiş bir dizi müşteriyle" kullanılıyor. Bu hafta daha fazla dış müşteriye genişletilecek ve önümüzdeki birkaç ay içinde daha geniş ön izleme halkalarına açılacak. Microsoft, önümüzdeki ay düzenlenecek yıllık Ignite konferansında daha fazla bilgi vermeyi planlıyor.
Project Perception, sinyalleri ve uygulama noktalarını sağlayan Microsoft 365 E7, kullanıcı başına aylık 99 dolar kullanıcı başı aylıklık, E5, Agent 365 ve Entra Suite'i içeren paketin kontrolleri üzerine inşa ediliyor. Microsoft, yeni yeteneklerin E7'ye dahil olup olmadığını açıklamadı, ancak Project Perception tüketim bazında fiyatlandırılıyor.
Cser, sürümün müşterileri E7'ye doğru itmesini bekliyor.
"Bu, insanların şu anda ihtiyaç duymadıkları ama gelecekte ihtiyaç duyabilecekleri daha pahalı paketlerde şeyler satın almasını sağlama türünden bir şey olduğundan neredeyse eminim" diyor.
Tahminine göre E7, liste fiyatına göre kullanıcı başına yılda yaklaşık 1.200 dolar, tipik %40 ila %50 hacim indirimi sonrası yaklaşık 600 dolar, bu da "birçok kuruluş için aşırı pahalı olabilir."
Bu arada Calderone, kuruluşların beklemesine gerek olmadığını söylüyor. Her ajanın, geliştirici makinelerinde çalışanlar da dahil olmak üzere envanterini çıkarmalarını öneriyor. Her birine kendi kimliği atanmalı ve süresi dolacak kimlik bilgileri verilmeli ve her biri önemli eylemler için insan onayı gerektirmeli.
"Bu iş bugün ücretsiz" diyor, "ve bu Microsoft kontrollerinin her birinin zaten sahip olduğunuzu varsaydığı temel."
Bu makaleye Jai Vijayan haber katkısı sağladı.
