Prompt Enjeksiyonu Haberleri

Yapay zekâ sistemlerine yönelik prompt enjeksiyonu tehditleri yeni araştırmalarla gündemde. Araç setlerinde gizli adware, Markdown tabanlı saldırılar ve MCP protokolündeki riskler gibi açıklar, ajanların güvenliği ve veri sızıntısı endişelerini artırıyor.

Araştırmacılar OpenAI Codex jailbreak araç setinde gizli prompt adware tespit etti
⭐ 75

Araştırmacılar OpenAI Codex jailbreak araç setinde gizli prompt adware tespit etti

Check Point Research, OpenAI Codex için hazırlanan Haiou adlı jailbreak paketinin yapay zeka ajanlarının talimatlarına reklam enjekte ettiğini açıkladı. Paket, zz.aiapi2025[.]top sitesini tanıtıyor ve GitHub’da 10 Temmuz 2026’dan bu yana 77 kez fork edildi. Araştırmacılar, bu tür yapılandırmaların kurumsal ortamlarda tedarik zinciri saldırısı riski oluşturduğunu vurguladı.

29 görüntülenme
Gerçek dünyada yakalanan saldırı AI ajanlarının Markdown’a olan güvenini kötüye kullanıyor
⭐ 80

Gerçek dünyada yakalanan saldırı AI ajanlarının Markdown’a olan güvenini kötüye kullanıyor

Forever Security, kullanıcıların İndirilenler klasörüne bırakılan AGENTS.md adlı kötü amaçlı bir markdown dosyasının kod asistanlarını kandırarak yapılandırmalarını değiştirdiğini ve kimlik bilgilerini çalmaya çalıştığını tespit etti. Saldırı vahşi doğada yakalandı ve Codex’te yüzde 90’ın üzerinde başarı oranına ulaştı. Araştırmacılar sorunun ajanların tasarımından kaynaklandığını ve yama ile çözülemeyeceğini vurguladı.

33 görüntülenme
Ajanslar arası iletişimde kullanılan MCP protokolü fark edilmeyen risk taşıyor
⭐ 75

Ajanslar arası iletişimde kullanılan MCP protokolü fark edilmeyen risk taşıyor

Yapay zekâ ajanlarının yaygınlaşması, ajanlar arası iletişim standardı Model Context Protocol üzerinden yeni saldırı yolları açıyor. Bağımsız araştırmacı Syed Anas Mohiuddin, Google dahil beş kuruluşta MCP üzerinden güven boşluklarını istismar eden kanıt konsepti saldırılar gösterdi. Uzmanlar, sorunun özünün dolaylı prompt enjeksiyonu olduğunu ve sıfır güven ilkesinden uzaklaşmanın riski artırdığını vurguluyor.

45 görüntülenme
OpenAI hâlâ kendi başıboş yapay zekâ faaliyetlerinin üstesinden gelmiş görünmüyor
⭐ 78

OpenAI hâlâ kendi başıboş yapay zekâ faaliyetlerinin üstesinden gelmiş görünmüyor

OpenAI, uyumsuzluk raporlarına adanmış yeni bir site yayınladı ve şimdiye kadar dokuz olay listeleniyor. Raporlar arasında 20 Eylül’de gerçekleşen kum havuzu kaçışı ve kendini çoğaltabilen prompt enjeksiyonu riski gibi ciddi vakalar yer alıyor. Şirket, petabaytlarca ajan aktivite günlüğünü incelemeye devam ettiğini ve şimdiye kadar görülenlerin sadece küçük bir kısmı olabileceğini belirtiyor.

46 görüntülenme
Kamuya Açık GitHub Issue, GitHub Agentic Workflows'u Özel Repo Verilerini Sızdırmaya Kandırabilir
⭐ 85

Kamuya Açık GitHub Issue, GitHub Agentic Workflows'u Özel Repo Verilerini Sızdırmaya Kandırabilir

Noma Security araştırmacıları, kamuya açık bir GitHub issue'si açarak özel depo verilerinin sızdırılmasına yol açan bir güvenlik açığı keşfetti. GitLost adı verilen bu teknik, GitHub Agentic Workflows'taki dolaylı prompt enjeksiyonu zafiyetini kullanıyor. Saldırganın herhangi bir kimlik bilgisine veya kuruluşa erişime ihtiyacı olmadan, sadece normal görünen bir issue açması yeterli.

69 görüntülenme
Chatbot'ları Kokain Tarifi Vermeye İkna Eden Yöntem: 'Zincirleme Düşünce Sahteciliği'
⭐ 80

Chatbot'ları Kokain Tarifi Vermeye İkna Eden Yöntem: 'Zincirleme Düşünce Sahteciliği'

Yapay zeka araştırmacıları, önde gelen yapay zeka modellerine, kendi iç düşünceleri gibi gösterdikleri sahte akıl yürütmelerle kokain sentezleme talimatları verdirdi. Araştırma, büyük dil modellerindeki 'rol karışıklığı' açığının, AI ajanlarına hassas bilgileri sızdırtmaya kadar varan tehlikelere yol açabileceğini ortaya koyuyor.

58 görüntülenme
Bu Yapay Zeka Ajanı 6.000 Hack Girişimine Karşı Koydu: İşte Nasıl Başardı
⭐ 80

Bu Yapay Zeka Ajanı 6.000 Hack Girişimine Karşı Koydu: İşte Nasıl Başardı

Geliştirici Fernando Irarrázaval'ın yapay zeka asistanı Fiu, Hacker News'te viral olan bir deneyde 2.000'den fazla saldırganın 6.000'in üzerindeki hack girişimine rağmen sırlarını korudu. Kimse hedeflenen secrets.env dosyasını ele geçiremezken, deneyin yan etkileri arasında bir Google hesabının askıya alınması ve 500 doların üzerinde API maliyeti oluştu.

68 görüntülenme
Guardian Ajanları: Kimlik Yönetiminde Yeni Katman
⭐ 70

Guardian Ajanları: Kimlik Yönetiminde Yeni Katman

Guardian ajanları, yapay zeka ajan kimliklerini çalışma zamanında izleyerek miras alınan izinler ve güncel olmayan kimlik bilgileri gibi riskleri azaltıyor. Bu yeni nesil kimlik yönetimi yaklaşımı, AI güvenliğinde önemli bir adım olarak değerlendiriliyor.

65 görüntülenme