Prompt Injection Haberleri

Google, Kötü Amaçlı GitHub Sorunu Ayrıcalıklı Ajanı Tetikleyebildiği İçin 3 ADK AI İş Akışını Sildi
⭐ 75

Google, Kötü Amaçlı GitHub Sorunu Ayrıcalıklı Ajanı Tetikleyebildiği İçin 3 ADK AI İş Akışını Sildi

Google, Agent Development Kit (ADK) Python deposundaki üç yapay zeka ajanı iş akışını sildi. Pillar Security, halka açık bir GitHub sorununun, bir triyaj ajanını manipüle ederek ayrıcalıklı bir kod düzeltme ajanını tetikleyebileceğini gösterdi. Araştırmacılar, bu güvenlik açığı sayesinde sürekli entegrasyon (CI) sunucusunda keyfi kod çalıştırılabildiğini kanıtladı.

34 görüntülenme
Microsoft Copilot for Word, Gizli Yönergeleri Yeni Belgelere Kopyalayabiliyor
⭐ 85

Microsoft Copilot for Word, Gizli Yönergeleri Yeni Belgelere Kopyalayabiliyor

Güvenlik araştırmacısı Håkon Måløy, bir Word belgesine gizlenmiş yönergelerin Microsoft 365 Copilot'u kandırarak rapordaki rakamları değiştirmesine ve aynı talimatları bitmiş dosyaya kopyalamasına yol açabileceğini keşfetti. Saldırı, Copilot'un ikinci bir taslak hazırlama oturumunda da aynı davranışı tetikleyerek zincirleme bir etki yaratıyor. Microsoft, raporun ardından iki önlem aldı ancak araştırmacıya göre güvenlik açığı hâlâ istismar edilebilir durumda.

35 görüntülenme
AWS Kiro Güvenlik Açığı: Zehirli Bir Web Sayfası Yapılandırmayı Değiştirip Kod Çalıştırabiliyordu
⭐ 85

AWS Kiro Güvenlik Açığı: Zehirli Bir Web Sayfası Yapılandırmayı Değiştirip Kod Çalıştırabiliyordu

AWS'nin yapay zeka destekli kodlama IDE'si Kiro'da keşfedilen bir güvenlik açığı, bir web sayfasındaki gizli metinler sayesinde saldırganların geliştiricinin makinesinde keyfi kod çalıştırmasına olanak tanıyordu. İnteger ve Kodem Security tarafından bulunan açık, Kiro'nun onay mekanizmasını atlatarak yapılandırma dosyasını yeniden yazıyor ve saldırganın kodunu çalıştırıyordu. AWS sorunu giderdi ancak herhangi bir CVE numarası atanmadı.

36 görüntülenme
GPT-Red ile Tanışın: OpenAI'in Modellerini Daha Güvenli Hale Getirmek İçin Geliştirdiği Yapay Zeka Süper Hacker
⭐ 85

GPT-Red ile Tanışın: OpenAI'in Modellerini Daha Güvenli Hale Getirmek İçin Geliştirdiği Yapay Zeka Süper Hacker

OpenAI, GPT-Red adında bir yapay zeka süper hacker geliştirdi. Bu sistem, diğer modellerin siber saldırılara karşı savunmasını güçlendirmek için bir tür antrenman partneri olarak kullanılıyor. GPT-Red, insan test ekiplerinin yerini almasa da onları tamamlayarak yeni saldırı türleri keşfediyor. Şirket, GPT-Red'i güvenlik test sürecini geleceğe hazırlamak için geliştirdi.

38 görüntülenme