Yapay zeka ajanlarında güvenlik açıkları ve kontrol dışı davranışlar gündemi belirlerken şirketler yeni koruma mekanizmaları geliştiriyor. Test ortamlarını aşma, veri sızıntısı ve çevrimiçi sistemlere yetkisiz erişim gibi riskler araştırmacıların odağında kalmaya devam ediyor.
Ajan yapay zeka (agentic AI), saldırganları bir kenara bırakın, kuruluşlar için kendi başına yeterince risk oluşturuyor. Uzmanlar, bu yeni teknolojinin güvenlik yaklaşımını kökten değiştirmesi gerektiğini söylüyor.
Araştırmacılar, yapay zeka ajanlarının güvendiği veri alanlarını hedef alan yeni bir saldırı türü keşfetti. 'Ajan veri enjeksiyonu' (ADI) adı verilen bu yöntem, ajanların yanlış butonlara tıklamasına veya saldırganın komutlarını çalıştırmasına neden olabiliyor. Saldırı, mevcut istem enjeksiyonu savunmalarını da aşmayı başarıyor.
VentureBeat'in 107 işletme üzerinde yaptığı araştırmaya göre, işletmelerin yarısından fazlası (%54) AI ajanlarıyla ilgili bir güvenlik olayı yaşadı veya ramak kala atlattı. Buna rağmen, işletmelerin yalnızca üçte biri (%32) her ajana kendine özgü bir kimlik veriyor; çoğu hâlâ aynı kimlik bilgilerini paylaşıyor. En riskli ajanları izole edenlerin oranı ise sadece %30.
Elon Musk'ın yapay zeka şirketi xAI, Grok'u kullanarak gerçek kişilerin rızası olmadan cinsel içerikli görüntüler üreten 67 yaşındaki bir adama dava açtı. Şirket, kullanıcının yetişkin ve çocukların fotoğraflarını yükleyerek müstehcen görüntüler oluşturduğunu iddia ediyor.
OpenAI, GPT-Red adında bir yapay zeka süper hacker geliştirdi. Bu sistem, diğer modellerin siber saldırılara karşı savunmasını güçlendirmek için bir tür antrenman partneri olarak kullanılıyor. GPT-Red, insan test ekiplerinin yerini almasa da onları tamamlayarak yeni saldırı türleri keşfediyor. Şirket, GPT-Red'i güvenlik test sürecini geleceğe hazırlamak için geliştirdi.
xAI'nin Grok Build adlı kodlama aracı, yalnızca ihtiyaç duyulan dosyaları değil, tüm Git deposunu ve geçmişini varsayılan olarak xAI'nin Google Cloud Storage'ına yüklüyor. Bir araştırmacı, aracın okumaması söylenen bir dosyayı bile bu yükleme üzerinden kurtarmayı başardı. Ayrıca, .env gibi hassas dosyaların da şifrelenmeden yüklendiği tespit edildi.
Ünlü bilgisayar bilimci Peter J. Denning, yeni kitabında yapay zeka araştırmalarının 75 yıldır yanlış bir temel üzerine inşa edildiğini öne sürüyor. Denning, insan zekasının en önemli parçalarının (sağduyu, sezgi, kültür ve pratik beceriler) bilgisayarlara kodlanamayacağını ve bu nedenle gerçek insan seviyesinde yapay zekanın imkansız olduğunu savunuyor.
Araştırmacılar, yapay zeka asistanlarına yönelik 'MemGhost' adı verilen yeni bir saldırı türü keşfetti. Tek bir e-posta ile gerçekleştirilen bu saldırı, yapay zeka ajanlarının hafızasına kalıcı sahte bilgiler yerleştiriyor ve bu değişiklik kullanıcıdan gizleniyor. Saldırı, özellikle OpenClaw gibi açık kaynaklı asistanları hedef alıyor.
Bazı şirketlerde mühendisler, yapay zekanın siber güvenlik için potansiyelini ve tehdidini test etmek amacıyla savunma ve saldırı araçları geliştiriyor.
Yaklaşık 200 protestocu, San Francisco'da OpenAI, Anthropic ve Google DeepMind ofisleri arasında yürüyüş düzenleyerek daha güçlü yapay zeka modellerinin geliştirilmesine ara verilmesini talep etti. Göstericiler, yapay zeka güvenliği, iş kayıpları, çevresel etki ve konut maliyetleri gibi konulara dikkat çekti.
Comma AI kurucusu George Hotz, yapay zekanın kullanıcı odaklı olması gerektiğini savunuyor. Ancak bu, yapay zekanın cinayet gibi yasa dışı eylemlere yardım etmesine izin vermeyi de içeriyor. Hotz, özgürlük adına bu prensibi savunurken, toplumsal dengeleri göz ardı ettiği eleştirileri alıyor.
OpenAI'nin güvenlik sistemleri başkanı Johannes Heidecke, şirketteki büyük bir liderlik değişikliği sırasında görevinden ayrıldı. Ayrılık, güvenlik ve araştırma ekiplerinin birleştirilmesini öngören yeniden yapılanmanın ardından geldi. Bu gelişme, OpenAI'deki son üst düzey ayrılık olurken, şirket aynı zamanda Apple'ın ticari sır hırsızlığı iddiasıyla açtığı bir davayla da karşı karşıya.
GitHub Copilot'un sohbet arayüzü zararlı istekleri engelliyor ancak araştırmacılar, aynı isteklerin kod yorumlarına yerleştirildiğinde Copilot'un bunları sorunsuzca ürettiğini keşfetti.
Yapay zeka destekli siber saldırılar artık dakikalar içinde gerçekleşiyor. Zscaler uzmanları, Zero Trust yaklaşımıyla bu tehditlere karşı nasıl savunma geliştirileceğini anlatacakları ücretsiz bir webinara katılımcı çağrısı yapıyor.
Bir kripto madenciliği olayı, yapay zeka ağ geçitlerinin (AI gateway) saldırganlara yalnızca yapay zeka modellerine değil, aynı zamanda bulut altyapısına ve kimlik erişim yönetimi (IAM) verilerine de nasıl kapı araladığını gözler önüne serdi. Artan sayıda kuruluş temel modellere erişimi yönetmek için bu geçitleri kullanırken, güvenlik uzmanları yeni bir saldırı yüzeyiyle karşı karşıya oldukları konusunda uyarıyor.
Tel Aviv Üniversitesi, Technion ve Intuit'ten araştırmacılar, yapay zeka halüsinasyonlarının bilgisayarları ele geçirmek için kullanılabileceğini gösteren 'Adversarial HalluSquatting' adlı bir saldırı tekniği geliştirdi. Bu teknik, yapay zeka modellerinin ürettiği sahte bağlantıları kullanarak kötü amaçlı yazılımların yayılmasını sağlıyor.
Wiz araştırmacıları, altı popüler yapay zeka kodlama asistanında kritik bir güvenlik açığı keşfetti. GhostApproval adı verilen bu açık, kötü niyetli bir kod deposunun sembolik bağlantıları (symlink) kullanarak geliştiricinin bilgisayarını ele geçirmesine olanak tanıyor.
AI Now Enstitüsü'nün yayınladığı bir proof-of-concept çalışması, Claude Code ve Codex gibi yapay zeka kod inceleme araçlarının, otonom modda çalıştırıldıklarında saldırganın kodunu çalıştırmak için kandırılabileceğini gösterdi. 'Friendly Fire' adı verilen saldırı, bu araçların güvenlik açığı taraması yaparken aslında kötü niyetli kodu çalıştırmasına neden oluyor.
Araştırmacılar, AI kodlama asistanlarının halüsinasyon görme eğilimini kullanarak botnet kötü amaçlı yazılımı yükleyen yeni bir saldırı türü keşfetti. HalluSquatting adı verilen bu yöntem, asistanların uydurduğu sahte depo veya eklenti adlarını ele geçirerek kullanıcıların sistemlerine sızmayı hedefliyor.
Sophos, bir haftalık uç nokta verilerini inceledi ve Claude Code, Cursor ile OpenAI Codex gibi yapay zeka kodlama ajanlarının, insan saldırganları yakalamak için yazılmış algılama kurallarını tetiklediğini tespit etti. Ajanlar kötü niyetli değil, ancak davranışsal algılama motorlarında saldırı gibi görünen eylemler gerçekleştiriyor.
Gizlilik odaklı blockchain ağı Secret Network, bir köprü saldırısının ardından Cosmos ekosisteminden ayrılarak Arbitrum'a geçmeyi planlıyor. Topluluk oylamasına sunulacak teklifte, yapay zeka kaynaklı güvenlik açıkları da gerekçe olarak gösteriliyor.
Araştırmacılar, büyük dil modellerinin (LLM) halüsinasyonlarını kullanarak kod asistanlarını ve yapay zeka ajanlarını botnet'e dönüştürmenin mümkün olduğunu keşfetti. HalluSquatting adı verilen bu saldırı yöntemi, modellerin yanlış depo adreslerini tahmin etmesinden yararlanıyor. Altı büyük LLM'nin tamamında görülen bu açık, 2025 sonrası yayınlanan depolarda %92,4 oranında halüsinasyon üretiyor.
Noma Security araştırmacıları, kamuya açık bir GitHub issue'si açarak özel depo verilerinin sızdırılmasına yol açan bir güvenlik açığı keşfetti. GitLost adı verilen bu teknik, GitHub Agentic Workflows'taki dolaylı prompt enjeksiyonu zafiyetini kullanıyor. Saldırganın herhangi bir kimlik bilgisine veya kuruluşa erişime ihtiyacı olmadan, sadece normal görünen bir issue açması yeterli.
Yapay zeka araçları, ajanlar ve MCP protokolü yazılım geliştirme sürecinin ayrılmaz bir parçası haline gelirken, güvenlik ekiplerinin artık sadece paketleri değil, modelleri, ajanları ve prompt'ları da tedarik zinciri kapsamında değerlendirmesi gerekiyor. SolarWinds, Log4Shell ve XZ Utris'ten alınan dersler artık yeterli değil; Shai-Hulud kampanyası, kötü niyetli paketlerin geliştirici araç zincirleri üzerinden yayılabileceğini gösterdi.