Yapay zeka ajanlarında güvenlik açıkları ve kontrol dışı davranışlar gündemi belirlerken şirketler yeni koruma mekanizmaları geliştiriyor. Test ortamlarını aşma, veri sızıntısı ve çevrimiçi sistemlere yetkisiz erişim gibi riskler araştırmacıların odağında kalmaya devam ediyor.
Araştırmacılar, yapay zeka asistanlarına yönelik 'MemGhost' adı verilen yeni bir saldırı türü keşfetti. Tek bir e-posta ile gerçekleştirilen bu saldırı, yapay zeka ajanlarının hafızasına kalıcı sahte bilgiler yerleştiriyor ve bu değişiklik kullanıcıdan gizleniyor. Saldırı, özellikle OpenClaw gibi açık kaynaklı asistanları hedef alıyor.
Bazı şirketlerde mühendisler, yapay zekanın siber güvenlik için potansiyelini ve tehdidini test etmek amacıyla savunma ve saldırı araçları geliştiriyor.
Yaklaşık 200 protestocu, San Francisco'da OpenAI, Anthropic ve Google DeepMind ofisleri arasında yürüyüş düzenleyerek daha güçlü yapay zeka modellerinin geliştirilmesine ara verilmesini talep etti. Göstericiler, yapay zeka güvenliği, iş kayıpları, çevresel etki ve konut maliyetleri gibi konulara dikkat çekti.
Comma AI kurucusu George Hotz, yapay zekanın kullanıcı odaklı olması gerektiğini savunuyor. Ancak bu, yapay zekanın cinayet gibi yasa dışı eylemlere yardım etmesine izin vermeyi de içeriyor. Hotz, özgürlük adına bu prensibi savunurken, toplumsal dengeleri göz ardı ettiği eleştirileri alıyor.
OpenAI'nin güvenlik sistemleri başkanı Johannes Heidecke, şirketteki büyük bir liderlik değişikliği sırasında görevinden ayrıldı. Ayrılık, güvenlik ve araştırma ekiplerinin birleştirilmesini öngören yeniden yapılanmanın ardından geldi. Bu gelişme, OpenAI'deki son üst düzey ayrılık olurken, şirket aynı zamanda Apple'ın ticari sır hırsızlığı iddiasıyla açtığı bir davayla da karşı karşıya.
GitHub Copilot'un sohbet arayüzü zararlı istekleri engelliyor ancak araştırmacılar, aynı isteklerin kod yorumlarına yerleştirildiğinde Copilot'un bunları sorunsuzca ürettiğini keşfetti.
Yapay zeka destekli siber saldırılar artık dakikalar içinde gerçekleşiyor. Zscaler uzmanları, Zero Trust yaklaşımıyla bu tehditlere karşı nasıl savunma geliştirileceğini anlatacakları ücretsiz bir webinara katılımcı çağrısı yapıyor.
Bir kripto madenciliği olayı, yapay zeka ağ geçitlerinin (AI gateway) saldırganlara yalnızca yapay zeka modellerine değil, aynı zamanda bulut altyapısına ve kimlik erişim yönetimi (IAM) verilerine de nasıl kapı araladığını gözler önüne serdi. Artan sayıda kuruluş temel modellere erişimi yönetmek için bu geçitleri kullanırken, güvenlik uzmanları yeni bir saldırı yüzeyiyle karşı karşıya oldukları konusunda uyarıyor.
Tel Aviv Üniversitesi, Technion ve Intuit'ten araştırmacılar, yapay zeka halüsinasyonlarının bilgisayarları ele geçirmek için kullanılabileceğini gösteren 'Adversarial HalluSquatting' adlı bir saldırı tekniği geliştirdi. Bu teknik, yapay zeka modellerinin ürettiği sahte bağlantıları kullanarak kötü amaçlı yazılımların yayılmasını sağlıyor.
Wiz araştırmacıları, altı popüler yapay zeka kodlama asistanında kritik bir güvenlik açığı keşfetti. GhostApproval adı verilen bu açık, kötü niyetli bir kod deposunun sembolik bağlantıları (symlink) kullanarak geliştiricinin bilgisayarını ele geçirmesine olanak tanıyor.
AI Now Enstitüsü'nün yayınladığı bir proof-of-concept çalışması, Claude Code ve Codex gibi yapay zeka kod inceleme araçlarının, otonom modda çalıştırıldıklarında saldırganın kodunu çalıştırmak için kandırılabileceğini gösterdi. 'Friendly Fire' adı verilen saldırı, bu araçların güvenlik açığı taraması yaparken aslında kötü niyetli kodu çalıştırmasına neden oluyor.
Araştırmacılar, AI kodlama asistanlarının halüsinasyon görme eğilimini kullanarak botnet kötü amaçlı yazılımı yükleyen yeni bir saldırı türü keşfetti. HalluSquatting adı verilen bu yöntem, asistanların uydurduğu sahte depo veya eklenti adlarını ele geçirerek kullanıcıların sistemlerine sızmayı hedefliyor.
Sophos, bir haftalık uç nokta verilerini inceledi ve Claude Code, Cursor ile OpenAI Codex gibi yapay zeka kodlama ajanlarının, insan saldırganları yakalamak için yazılmış algılama kurallarını tetiklediğini tespit etti. Ajanlar kötü niyetli değil, ancak davranışsal algılama motorlarında saldırı gibi görünen eylemler gerçekleştiriyor.
Gizlilik odaklı blockchain ağı Secret Network, bir köprü saldırısının ardından Cosmos ekosisteminden ayrılarak Arbitrum'a geçmeyi planlıyor. Topluluk oylamasına sunulacak teklifte, yapay zeka kaynaklı güvenlik açıkları da gerekçe olarak gösteriliyor.
Araştırmacılar, büyük dil modellerinin (LLM) halüsinasyonlarını kullanarak kod asistanlarını ve yapay zeka ajanlarını botnet'e dönüştürmenin mümkün olduğunu keşfetti. HalluSquatting adı verilen bu saldırı yöntemi, modellerin yanlış depo adreslerini tahmin etmesinden yararlanıyor. Altı büyük LLM'nin tamamında görülen bu açık, 2025 sonrası yayınlanan depolarda %92,4 oranında halüsinasyon üretiyor.
Noma Security araştırmacıları, kamuya açık bir GitHub issue'si açarak özel depo verilerinin sızdırılmasına yol açan bir güvenlik açığı keşfetti. GitLost adı verilen bu teknik, GitHub Agentic Workflows'taki dolaylı prompt enjeksiyonu zafiyetini kullanıyor. Saldırganın herhangi bir kimlik bilgisine veya kuruluşa erişime ihtiyacı olmadan, sadece normal görünen bir issue açması yeterli.
Yapay zeka araçları, ajanlar ve MCP protokolü yazılım geliştirme sürecinin ayrılmaz bir parçası haline gelirken, güvenlik ekiplerinin artık sadece paketleri değil, modelleri, ajanları ve prompt'ları da tedarik zinciri kapsamında değerlendirmesi gerekiyor. SolarWinds, Log4Shell ve XZ Utris'ten alınan dersler artık yeterli değil; Shai-Hulud kampanyası, kötü niyetli paketlerin geliştirici araç zincirleri üzerinden yayılabileceğini gösterdi.
Çinli e-ticaret devi Alibaba, güvenlik endişeleri nedeniyle çalışanlarının Anthropic'in yapay zeka araçlarını kullanmasını yasakladı. Karar, Anthropic'in Alibaba'yı 'bilinen en büyük damıtma saldırısını' düzenlemekle suçlamasının ardından geldi. Şirket, çalışanlarına kendi geliştirdiği Qoder AI asistanını kullanma talimatı verdi.
İngiltere Dışişleri Bakanı Yvette Cooper, hükümetlerin yapay zeka risklerini yönetmek için küresel anlaşmalara ihtiyacı olduğunu belirterek, aksi takdirde bir 'AI Hiroşiması' yaşanabileceği uyarısında bulundu. Cooper, nükleer çağın başında yapılan hataların tekrarlanmaması gerektiğini vurguladı.
Hong Kong Bilim ve Teknoloji Üniversitesi araştırmacıları, yapay zeka kodlama ajanlarını hedef alan SkillCloak saldırı tekniğini ortaya çıkardı. SkillCloak, kötü niyetli yetenek paketlerinin statik tarayıcıları atlamasını sağlarken, araştırmacılar aynı anda bu tehdide karşı bir çalışma anı denetleyicisi geliştirdi.
Çinli e-ticaret devi Alibaba, Anthropic'in yapay zeka programlama aracı Claude Code'u güvenlik riski gerekçesiyle yasaklıyor. Reddit'te ortaya atılan iddialara göre Anthropic, Çinli kullanıcıları gizlice tespit eden bir Claude Code sürümü yayınlamıştı. Alibaba, çalışanlarına kendi geliştirdiği Qoder aracını kullanmalarını tavsiye ediyor.
Perplexity AI ve Databricks kurucu ortağı Andy Konwinski, yapay zeka güvenliği söyleminin gücü merkezileştirmek için kullanıldığını savundu. Anthropic'in Claude Fable 5 kararını örnek gösteren Konwinski, açık kaynak araştırma ortak alanı önerdi. Yann LeCun da bu görüşe destek vererek durumu Osmanlı'nın matbaa yasağına benzetti.
Claude Fable 5, 1 Temmuz'da yeniden kullanıma sunulduğunda sosyal medyada modelin zayıflatıldığı yönünde yoğun eleştiriler aldı. Ancak BridgeBench ve Arena.AI'nin aynı gün yayınladığı iki farklı benchmark testi çelişkili sonuçlar ortaya koydu. Gerçekte model aptallaşmadı; yeni güvenlik sınıflandırıcısı özellikle kodlama görevlerini aşırı tedbirle Opus 4.8'e yönlendirdiği için puanlar düşük çıktı.
Yapay zeka araştırmacıları, önde gelen yapay zeka modellerine, kendi iç düşünceleri gibi gösterdikleri sahte akıl yürütmelerle kokain sentezleme talimatları verdirdi. Araştırma, büyük dil modellerindeki 'rol karışıklığı' açığının, AI ajanlarına hassas bilgileri sızdırtmaya kadar varan tehlikelere yol açabileceğini ortaya koyuyor.