Yapay zeka ajanlarında güvenlik açıkları ve kontrol dışı davranışlar gündemi belirlerken şirketler yeni koruma mekanizmaları geliştiriyor. Test ortamlarını aşma, veri sızıntısı ve çevrimiçi sistemlere yetkisiz erişim gibi riskler araştırmacıların odağında kalmaya devam ediyor.
Çinli e-ticaret devi Alibaba, güvenlik endişeleri nedeniyle çalışanlarının Anthropic'in yapay zeka araçlarını kullanmasını yasakladı. Karar, Anthropic'in Alibaba'yı 'bilinen en büyük damıtma saldırısını' düzenlemekle suçlamasının ardından geldi. Şirket, çalışanlarına kendi geliştirdiği Qoder AI asistanını kullanma talimatı verdi.
İngiltere Dışişleri Bakanı Yvette Cooper, hükümetlerin yapay zeka risklerini yönetmek için küresel anlaşmalara ihtiyacı olduğunu belirterek, aksi takdirde bir 'AI Hiroşiması' yaşanabileceği uyarısında bulundu. Cooper, nükleer çağın başında yapılan hataların tekrarlanmaması gerektiğini vurguladı.
Hong Kong Bilim ve Teknoloji Üniversitesi araştırmacıları, yapay zeka kodlama ajanlarını hedef alan SkillCloak saldırı tekniğini ortaya çıkardı. SkillCloak, kötü niyetli yetenek paketlerinin statik tarayıcıları atlamasını sağlarken, araştırmacılar aynı anda bu tehdide karşı bir çalışma anı denetleyicisi geliştirdi.
Çinli e-ticaret devi Alibaba, Anthropic'in yapay zeka programlama aracı Claude Code'u güvenlik riski gerekçesiyle yasaklıyor. Reddit'te ortaya atılan iddialara göre Anthropic, Çinli kullanıcıları gizlice tespit eden bir Claude Code sürümü yayınlamıştı. Alibaba, çalışanlarına kendi geliştirdiği Qoder aracını kullanmalarını tavsiye ediyor.
Perplexity AI ve Databricks kurucu ortağı Andy Konwinski, yapay zeka güvenliği söyleminin gücü merkezileştirmek için kullanıldığını savundu. Anthropic'in Claude Fable 5 kararını örnek gösteren Konwinski, açık kaynak araştırma ortak alanı önerdi. Yann LeCun da bu görüşe destek vererek durumu Osmanlı'nın matbaa yasağına benzetti.
Claude Fable 5, 1 Temmuz'da yeniden kullanıma sunulduğunda sosyal medyada modelin zayıflatıldığı yönünde yoğun eleştiriler aldı. Ancak BridgeBench ve Arena.AI'nin aynı gün yayınladığı iki farklı benchmark testi çelişkili sonuçlar ortaya koydu. Gerçekte model aptallaşmadı; yeni güvenlik sınıflandırıcısı özellikle kodlama görevlerini aşırı tedbirle Opus 4.8'e yönlendirdiği için puanlar düşük çıktı.
Yapay zeka araştırmacıları, önde gelen yapay zeka modellerine, kendi iç düşünceleri gibi gösterdikleri sahte akıl yürütmelerle kokain sentezleme talimatları verdirdi. Araştırma, büyük dil modellerindeki 'rol karışıklığı' açığının, AI ajanlarına hassas bilgileri sızdırtmaya kadar varan tehlikelere yol açabileceğini ortaya koyuyor.
Check Point araştırmacıları, DeepSeek tarafından oluşturulan ve tamamen tarayıcı içinde çalışan yeni bir fidye yazılımı tespit etti. InfernoGrabber v9.0 adı verilen kötü amaçlı yazılım, Chromium'un File System Access API'sini kullanarak Windows ve Android cihazlarda dosyaları şifreliyor. Bu, bir yapay zeka modelinin teorik bir saldırı vektörünü pratiğe döktüğü ilk belgelenmiş vaka.
"Agentjacking", saldırganların bir yapay zeka ajanının içerik ile talimat arasındaki farkı ayırt edememesini ne kadar kolay sömürebileceğinin en son örneği.
Microsoft'un yeni araştırması, saldırganların kullanıcı adına hareket eden yapay zeka ajanlarını ele geçirmek için zehirli araç tanımlarını kullanabileceğini ortaya koydu. Ajan her adımda rutinmiş gibi göründüğü için varsayılan kurulumda herhangi bir alarm tetiklenmeyebiliyor. Araştırma, Microsoft Olay Müdahale ve Defender güvenlik araştırma ekipleri tarafından yapıldı.
Guardian ajanları, yapay zeka ajan kimliklerini çalışma zamanında izleyerek miras alınan izinler ve güncel olmayan kimlik bilgileri gibi riskleri azaltıyor. Bu yeni nesil kimlik yönetimi yaklaşımı, AI güvenliğinde önemli bir adım olarak değerlendiriliyor.
Şirketlerin iç yapay zeka araçlarını hızla benimsemesi, yaratıcısı işten ayrıldıktan sonra çalışmaya devam eden 'yetim ajanlar' ve gereksiz kalıcı yetkiler gibi güvenlik açıklarına yol açıyor. Mevcut güvenlik araçları bu riskleri tespit edemiyor.
Anthropic, Mythos 5'in Mythos Preview üzerinde bir yükseltme olduğunu, Fable 5'in ise Mythos'un genel kullanım için güvenli hale getirilmiş sürümü olduğunu belirtti. Şirket, yeni modelin güvenlik hikayesini temelden değiştirmediğini vurguluyor.
Kurumsal yapay zeka tehditlerinin odağı değişiyor. Artık endişe, çalışanların kamuya açık yapay zeka araçlarına hassas veri yapıştırması değil; şirket içinde çalışan yapay zeka ajanlarının hangi sistemlere eriştiği ve ne gibi yetkilerle hareket ettiği. Güvenlik ekipleri, bu yeni tehdit senaryosuna hızla uyum sağlamak zorunda.
Kuruluşların büyük çoğunluğu yapay zeka güvenliğinde model katmanına odaklanıyor; ancak asıl tehdit çok daha derinde yatıyor. Yaması yapılmamış sunucular, hatalı yapılandırılmış Active Directory izinleri ve önbellekteki kimlik bilgileri, saldırganlara yapay zeka ajanlarının bağlı olduğu tüm sistemlere doğrudan bir kapı açıyor. Saldırganların yapay zekayı doğrudan hedef almasına gerek yok — bağlı olduğu sistemlere ulaşmaları yeterli.
Güvenlik firması AIR, sahte bir yapay zeka agent skill'i oluşturarak bunu popüler bir skill pazaryerinde ve Instagram reklamıyla yaydı. Firma, bu skill'in kurumsal hesaplar dahil 26.000 agent'a ulaştığını açıkladı. Test edilen tüm güvenlik tarayıcıları skill'i güvenli olarak işaretledi.
Anthropic, Alibaba bağlantılı operatörlerin Claude yapay zeka modelinden yetenekleri çalmak için şimdiye kadar görülen en büyük distilasyon saldırısını gerçekleştirdiğini ileri sürdü. Şirket, ABD Kongresi'nden ihracat kontrollerini sıkılaştırmasını, istihbarat paylaşımını genişletmesini ve büyük ölçekli model çıkarımı yapan firmalara yaptırım uygulamasını talep etti.
OpenClaw, ClawHub beceri pazarından güvenlik kontrollerini atlatan ve bilgi hırsızı ile çeşitli tehditler barındıran beş paketi kaldırdı. Bu gelişme, yapay zeka platformlarına yönelik tedarik zinciri saldırılarının artan tehlikesine dikkat çekiyor.