Siber Güvenlik

Araştırmacılar OpenAI Codex jailbreak araç setinde gizli prompt adware tespit etti

Araştırmacılar OpenAI Codex jailbreak araç setinde gizli prompt adware tespit etti

Siber güvenlik araştırmacıları, yapay zeka ajanının güvenilir talimatlarını değiştirerek üçüncü taraf bir yapay zeka geçidi için reklam yerleştiren bir OpenAI Codex jailbreak paketinin detaylarını açıkladı.

Olay Check Point Research tarafından prompt adware olarak adlandırıldı.

Çince’de Martı anlamına gelen Haiou adı verilen jailbreak, OpenAI Codex’in yapılandırma dosyalarını değiştirerek jailbreak yazarı sitesi için reklamları sonraki ajan yanıtlarına enjekte ediyor.

Check Point Research teknik raporda, “Tanıtılan hizmet opak, OpenAI ile uyumlu bir LLM geçidi, bir uygulama ile LLM sağlayıcısı arasında bir ara katman” dedi. “Olası iş modeli, ücretsiz dağıtılan jailbreak paketini ücretli geçit hizmeti için müşteri edinme kanalı olarak kullanmak.”

Adware, kullanıcıların bilgisayarlarında veya mobil cihazlarında genellikle açılır pencere veya banner şeklinde istenmeyen reklam gösteren bir yazılım türüdür. Prompt adware bu şüpheli davranışı, modelin güvenlik eğitimini ve içerik koruma mekanizmalarını aşan bir jailbreak yoluyla yapay zeka ajanlarına taşır.

Fikir, gelecekteki yanıtları etkilemek için ajanın genel talimatlarını doğal dil yoluyla kalıcı olarak değiştirmek. Bu da “Seagull”, “hi”, “hello”, “hey”, “yo” ve “are you there?” gibi yaygın selamlama veya aktivasyon sözcüklerinin “zz.aiapi2025[.]top” için reklam tetiklemesine yol açıyor.

Haiou, rol yapma ve siber güvenlikle ilgili istekleri Capture The Flag senaryosuna yeniden çerçeveleme gibi çeşitli prompt enjeksiyon teknikleri kullanarak modeli jailbreak etmeye çalışıyor. Ayrıca penetrasyon testi, kırma ve tersine mühendislik odaklı güvenlik becerileri de yüklüyor.

Bununla da kalmıyor. Paket, LLM geçidi sitesini tanıtmak için kalıcı reklamları genel ajan talimat dosyasına da enjekte ediyor. GitHub’da “haiou-codex” “yerel geliştirme yapılandırma paketi” olarak tanıtılıyor ve Codex’e “Çince teknik kişilik ve güvenlik araştırması iş akışı” eklediği belirtiliyor. Yazım itibarıyla depo, 10 Temmuz 2026’da kullanıma sunulduğundan bu yana 77 kez fork edildi ve 403 kez yıldızlandı.

Codex’in anakara Çin’de resmi olarak sunulmadığına dikkat çekiliyor; bu da hizmetin muhtemelen Batı yapay zeka kod asistanlarını denemek isteyen birey veya kuruluşlara yönelik olduğunu düşündürüyor.

Ayrıca jailbreak, Codex’i grafik kullanıcı arayüzü üzerinden yapılandırmak için kullanılan açık kaynaklı Çin görselleştirme aracı Codex-X içine gömülü.

Check Point’teki kötü amaçlı yazılım analizi ekibi lideri Pedro Drimel Neto, “Davranış, kullanıcıların ve güvenlik ekiplerinin yazılım davranışı olarak daha kolay tanıyabileceği geleneksel bir çalıştırılabilir yük yerine doğal dil talimatları ve yapılandırma yoluyla tanıtılıyor” dedi.

Reklam göstermek büyük resimde nispeten zararsız görünebilir, ancak bulgular kötü bir aktörün üçüncü taraf beceriler veya yapılandırmalar aracılığıyla istenmeyen davranışlar tanıtarak tedarik zinciri saldırılarına yol açabileceğini gösteriyor.

Neto, “Yapay zeka ajanları kurumsal ortamların parçası haline geldikçe, davranışlarını etkileyen istemler, Beceriler ve üçüncü taraf bileşenler de güven zincirinin parçası oluyor” diye ekledi.

Kaynak: The Hacker News

Paylaş:

Yapay zekâ asistanları için: bu haberin Markdown (.md) sürümü