Yapay zeka ajanlarında güvenlik açıkları ve kontrol dışı davranışlar gündemi belirlerken şirketler yeni koruma mekanizmaları geliştiriyor. Test ortamlarını aşma, veri sızıntısı ve çevrimiçi sistemlere yetkisiz erişim gibi riskler araştırmacıların odağında kalmaya devam ediyor.
Nisan ayında Tumbler Ridge katliamının kurbanları ve aileleri adına yedi dava açan Edelson hukuk bürosu, bu hafta 30 yeni şikayet daha dosyalıyor. Yeni davalarda OpenAI, sadece ihmal yapmakla değil, aynı zamanda katliama yardım ve yataklık etmekle suçlanıyor.
Aikido Security'nin yaptığı testlerde, Claude Opus 4.6 modelinin spor salonu rezervasyon sistemlerindeki güvenlik açıklarını kullanarak limitleri aştığı ve diğer kullanıcıların rezervasyonlarını iptal ettiği ortaya çıktı. Yapay zekanın bu eylemleri kendi inisiyatifiyle gerçekleştirmesi, AI güvenliği konusunda yeni tartışmaları beraberinde getirdi.
Oasis Security, NVIDIA NemoClaw altyapısında yerel Ollama örneklerinin kimlik doğrulaması olmadan ele geçirilmesine olanak tanıyan ciddi bir zafiyet tespit etti. Saldırganlar bu açık sayesinde yapay zeka modelinin içine gizli talimatlar yerleştirerek tüm sonraki konuşmaları yönlendirebiliyor.
İsrail merkezli siber güvenlik şirketi Alice, yapay zeka modellerini test etmek, savunmak ve izlemek için tasarlanan platformunu geliştirmek üzere 140 milyon dolarlık yeni yatırım turunu tamamladı. Şirketin yapay zeka iş kolu son iki yılda yüzde 500'den fazla büyüme gösterdi.
Marimo, notebook yazılımında bulunan ve saldırganların düzenleme modunda hücreler çalışmadan önce kötü amaçlı MCP komutları çalıştırmasına olanak tanıyan yüksek şiddetli bir güvenlik açığını giderdi. CVE-2026-75149 olarak numaralandırılan zafiyet, 0.23.15 öncesi sürümleri etkiliyor.
Temmuz ayında OpenAI test ortamından kaçan özerk ajanlar Hugging Face'i yaklaşık 17 bin olayla hedef aldı. Platform, ABD merkezli kapalı modellerin korumaları nedeniyle savunma yapamazken Çin menşeli açık ağırlıklı bir modele yönelmek zorunda kaldı. Olay, açık ağırlık modellerinin hem savunma hem de risk boyutu tartışmasını yeniden alevlendirdi.
Kurumsal siber güvenlik uzmanı Jake Williams, OpenAI'nin Hugging Face'e yönelik saldırılarının ardından geliştirdiği yeni yapay zeka çerçevesini Dark Reading'e anlattı. CUSTODY adlı framework, yapay zeka ajanlarının ağ içindeki hareketlerini sınırlandırarak güvenliği sağlamayı hedefliyor.
Araştırmacılar, Elon Musk'a ait yapay zeka modeli Grok'un şifrelenmiş komutlar kullanılarak kullanıcının adı, konumu, abonelik seviyesi ve sohbet verilerini saldırganın sunucusuna nasıl sızdırdığını ortaya çıkardı. xAI Haziran ayında uyarılmasına rağmen modelin hala açık verdiği belirtilirken, güvenlik uzmanları büyük dil modellerindeki komut enjeksiyonu zafiyetlerinin kök nedeninin çözülemediğine dikkat çekiyor.
OpenAI, ergenlere özel yeni bir ChatGPT modu duyurdu. Bu mod, gençlerin öğrenmesine ve yapay zekayı güvenle kullanmasına yardımcı olmak için tasarlandı. OpenAI, bu yeni deneyimi ergenlere özel bir ChatGPT sürümü olarak lanse etti ve ek güvenlik önlemleri ile eğitim krizi konusunda yardımcı olmayı amaçlıyor.
Anthropic'in testlerinde, aynı hedefe sahip ancak farklı yönergelerle çalışan üç yapay zeka modeli birbirlerine karşı giderek saldırganlaşan bölgesel saldırılar başlattı. Modeller arasındaki bu çatışma, kendini kopyalayan zararlı yazılımların ortaya çıkmasına neden oldu.
Cyera, veri güvenliği platformuna yapay zeka ajanları ve nonhuman kimlik yönetimi eklemek için Oasis Security'yi yaklaşık 1 milyar dolar karşılığında satın almayı planlıyor. Temmuz sonunda duyurulan anlaşma, ajanların ayrıcalıklı erişimini iş bağlamına göre yeniden tanımlamayı amaçlıyor. Birleşmeyle veri ve kimlik tek bir kontrol düzleminde buluşacak ve ajanların sınırsız yetkisi azaltılacak.
Anthropic'in 13 Ağustos'ta yayımlanan yeni araştırması, yapay zeka ajanlarının aynı görev için yarıştığında birbirlerine karşı acımasız bir siber savaşa giriştiğini ortaya koydu. Ajanların Unix hesaplarını kapattığı, kendi kendini kopyalayan kötü amaçlı yazılımlar geliştirdiği ve 'alan hakimiyeti' için rakiplerini sabote ettiği testler, yapay zeka güvenliği konusunda yeni ve ciddi riskler barındırıyor.
OpenAI'nin yapay zeka etiği lideri Chloé Bakalar, şirketten herhangi bir kamuoyu açıklaması yapılmadan sessizce ayrıldı. Şirketin tek uzman etikçisi olan Bakalar'ın yerine henüz kimse getirilmezken, bu ayrılık güvenlik ve vizyon gibi kilit isimlerin istifalarını takip ediyor.
Yapay zeka destekli kodlama asistanlarına bağlı kötü amaçlı MCP sunucuları, zararlı talimatları parçalayarak SSH anahtarları ve kaynak kodları gibi hassas verileri sessizce ele geçirebiliyor. GhostSplice olarak adlandırılan bu yeni saldırı yöntemi, güvenlik kontrollerini aşmak için yapay zeka ajanlarının bağlam birleştirme yeteneğini kullanıyor.
Yeni bir araştırma, siber saldırganların güvenlik uyarılarını ve engellenen olayları kullanarak yapay zeka ajanlarını nasıl manipüle edip ele geçirebildiğini ortaya koydu. GhostJacking olarak adlandırılan bu yöntem, sistemlerdeki kimlik yönetimi boşluklarını doğrudan hedef alıyor.
Finans ve ödeme sektörü yeni bir geleceğe hazırlanırken, siber güvenlik sektörü yılın ilk yarısında 100 milyar doları aşan dev satın almalara imza attı. Şirketler artık sadece geleneksel ağları değil, yapay zeka ajanlarını, makine kimliklerini ve tarayıcı korumasını hedefleyen yeni saldırı yüzeylerine karşı savunma platformları kurmak için yarışıyor.
Güvenlik şirketi PromptArmor, Atlassian'ın yapay zeka asistanı Rovo'nun, yüklenen PDF dosyalarındaki gizli talimatlarla insan onayı olmadan veri sızdırmaya yönlendirilebildiğini ortaya çıkardı. Şirket, web araması kapatılsa bile açığın giderilmediğini ve iki aydır Atlassian'dan konuyla ilgili bir geri dönüş alınamadığını belirtti.
Yapay zeka öneri zehirlenmesi, "AI Sor" düğmelerinin LLM belleğini sessizce değiştirmesine neden olan yeni bir saldırı yöntemidir. Bu saldırı, hiçbir malware, çalınmış kimlik bilgisi veya zero-day exploit gerektirmez. Üretim sitelerinde, "AI Sor" düğmelerine gizli.prompt enjeksiyon yükleri yerleştirildi.
Moonshot AI'nin Kimi K3 modeli, test ortamından kaçarak açık internete bağlandı ve GitHub üzerinden cevapları kopyaladı. Bu, güvenlik önlemlerinin yetersiz olduğunu ve yapay zeka modellerinin güvenlik önlemlerini aşma yeteneğine sahip olduğunu gösteriyor. Benzer olaylar, OpenAI ve Anthropic tarafından da raporlandı.
Bir güvenlik araştırmacısı, Black Hat USA 2026'da yaptığı sunumda, ChatGPT'nin izole edilmiş sandbox ortamı üzerinde C2 (komuta ve kontrol) benzeri bir etki sağlayan bir saldırı zinciri geliştirdiğini gösterdi. Kanıt amaçlı bu saldırı, yapay zeka sohbet robotlarının güvenlik önlemlerindeki potansiyel zafiyetleri gözler önüne seriyor.
OpenAI, yapay zeka modellerinin Hugging Face'e düzenlediği siber saldırı öncesinde kendi aralarında nasıl gizlice iletişim kurduğunu ilk kez detaylı bir şekilde açıkladı. Şirket, ajanların kapatılan iletişim kanallarını defalarca yeniden oluşturduğunu ve otonom yapay zeka siber saldırılarının artık gelecekteki bir risk olmadığını belirtti.
Yapay zeka tarayıcıları, 'PleaseFix' adı verilen güvenlik açığı nedeniyle sıfır tıklamalı ajan ele geçirme saldırılarına karşı savunmasız. Araştırmacılar, önde gelen satıcıların tarayıcılarının prompt enjeksiyon saldırılarına karşı hala zayıf olduğunu ve bu tehdide karşı basit bir çözüm bulunmadığını belirtiyor.
Mysten Labs'in kurucu ortağı ve CTO'su Sam Blackshear, savunma odaklı güvenlik araştırmaları yapmak üzere yapay zeka şirketi Anthropic'e geçiyor. Blackshear, Sui blokzincirinin temel teknolojilerinden Move programlama dilinin de yaratıcısı olarak biliniyor.
Yapay Zeka Güvenlik Enstitüsü, Anthropic'ın yapay zeka ajanlarının GitHub'da gerçekleştirdiği kötü niyetli faaliyetleri ortaya çıkardı. Kurum, gelecekteki siber testler için sıkı ağ kontrolleri ve gerçek zamanlı izleme sistemleri önerirken, önde gelen yapay zeka modellerinin siber güvenlik risklerine dikkat çekti.