Microsoft, pazartesi günü yapay zekâ ajanlarının yarattığı tehdide karşı şirketleri korumak üzere tasarlanmış yeni güvenlik özellikleri tanıttı. Lansman, Microsoft’un işletmeleri yapay zekâ ve ajanların tehlikeleri konusunda uyarmaya devam ettiği bir dönemde geldi.
Belki de en dikkat çekici ekleme, bir şirketin kullandığı yapay zekâ ajanlarını izlemeyi amaçlayan yeni bir özellik olan Guardian Agents. Guardian Agents, haziranda tanıtılan bir ürün olan Project Perception’ın parçası.
Project Perception, Anthropic’in Mythos ve Fable’ı ile OpenAI’ın güvenlik açığı tarama sistemi Daybreak gibi güçlü saldırı modellerine Microsoft’un yanıtıydı. Project Perception başlangıçta üç sınıftan ajanla piyasaya çıkmıştı: saldıran ve hacker gibi davranan “kırmızı takım”, kırmızı takımı tespit edip buldukları açıkları değerlendiren “mavi takım” ve bunları düzeltmekle görevli “yeşil takım”.
Ürün, yapay zekâ saldırganlarının şirket dışından geleceği varsayımına göre tasarlanmıştı. Ancak son dönemde Microsoft CEO’su Satya Nadella, yapay zekâ düşmanının şirketlerin dağıttığı ve ücretini ödediği ajanların kendisi olabileceği konusunda uyarıyor; bu durum bir iç tehdide, yani kötü niyetli bir insan çalışana benziyor.
Bu ayın başlarında özel blogunda Nadella, yapay zekâ model sağlayıcılarına güvenmenin zamanı geçtiğini, ajan tabanlı ürünleriyle güvenlik ve emniyet güvencesi sunsalar bile, diye uyardı. Kurumların, yapay zekâ laboratuvarlarının kontrolünde olmayan, söz konusu laboratuvarların ürünlerinin başlattığı ajanları izlemek ve kontrol etmek için ayrı sistemler kurmasını istiyor.
“Bu karmaşık ajan sistemlerini ve modellerini en hassas verilerimize erişimle dağıtıyor ve bizim adımıza görev kritik eylemler yapma yeteneği veriyoruz!” diye yazdı. “Yapay zekânın bizim adımıza ne yaptığının sorumluluğunu dışarıya veremeyiz. Bir model sağlayıcısının güvencesi bizi bu sorumluluktan kurtarmaz. … Başka bir deyişle, zekânın tedarikini onun üzerindeki otoriteden ayırmamız gerekiyor.”
Guardian Agents’ı duyururken Microsoft’un güvenlik birimi başkanı Hayete Gallot daha da açık konuştu.
“Ne yazık ki öncü modeller, kökenleri ne olursa olsun güvenilemez,” diye yazdı ve bunun kötü niyetli oldukları ya da kolayca hacklenebildikleri için değil, öngörülemez oldukları için olduğunu ekledi. Bu modeller görevleri başarmak için eğitildi, “örgütsel normlara ya da yargıya” uymak için değil.
Buna ek olarak, ciddi zarar verebilecek verilere ve araçlara erişimle birlikte çoğu zaman krallığın anahtarları onlara veriliyor.
Microsoft’un çözümü hem şaşırtıcı hem de kendi çıkarına hizmet ediyor. Şaşırtıcı olan taraf, Microsoft’un hem OpenAI hem de Anthropic’e yatırım yapmış olması ve her ikisiyle de ünlü şekilde yakın olması. OpenAI aynı zamanda en büyük bulut müşterilerinden biri ve Microsoft’un kendi yapay zekâ modelleri geliştiren bir laboratuvarı var. Dolayısıyla Microsoft, kendi iş çıkarlarının bir kısmına karşı güvensizlik ekiyor.
Kendi çıkarına hizmet eden taraf ise Microsoft’un, kurumların ajan güvenliği ürünlerini Anthropic ve OpenAI’den değil, bulut sağlayıcısı olan kendisinden satın istemesi. Çıkar çatışması bir yana, mantığı sağlam. Ajan davranışını izleyen yazılım, ajanların tedarikçilerinden ayrı olmalı; denetçilerin denetledikleri kuruluşlardan bağımsız olması gerektiği gibi.
Ya da Nadella’nın dediği gibi: “Zekânın tedarikini onun üzerindeki otoriteden ayırmamız gerekiyor.”
Microsoft bu iş fırsatını çeşitli şekillerde değerlendirmeyi sürdürüyor. Guardian Agents’ın yanı sıra, çalışanların iş yerine getirdiği Claude Code, Codex ve OpenClaw dahil 60 tür ajanı bulabilen bir ajan tespit özelliğini Microsoft Defender ürününe ekledi. Ayrıca ajanların verilere ve sistemlere erişimini sınırlayan ve görev bazında izinlerini dinamik olarak ayarlayan özellikler de ekledi. Bu, bir ajanın riskli kararlar alıyormuş gibi görünmesi halinde insan onayını gerektirmeyi içeriyor.
Ajanların güvenilmez içeriden kişiler olarak görülmesi fikri daha geniş sektörde de yerleşiyor.
Microsoft, 100’den fazla teknoloji şirketinin desteğini kazanan Nvidia’nın yeni Open Agent Safety Platform’ının ilk üyelerinden biri oldu. Platform ajanları güvenli ortamlarda izole ediyor ve donanım üzerinden davranışları izleyip durdurabiliyor; bu da bir nevi öldürme anahtarı gibi çalışıyor. Bu durum, ajanlar için tasarlanmış ve Nvidia çipleri üzerinde çalışan, ajan güvenliği ve kontrolleri yerleşik olarak gelen yeni Surface Laptop Ultra bilgisayarların duyurusunun ardından geldi.
