Prompt Enjeksiyonu Haberleri

Kamuya Açık GitHub Issue, GitHub Agentic Workflows'u Özel Repo Verilerini Sızdırmaya Kandırabilir
⭐ 85

Kamuya Açık GitHub Issue, GitHub Agentic Workflows'u Özel Repo Verilerini Sızdırmaya Kandırabilir

Noma Security araştırmacıları, kamuya açık bir GitHub issue'si açarak özel depo verilerinin sızdırılmasına yol açan bir güvenlik açığı keşfetti. GitLost adı verilen bu teknik, GitHub Agentic Workflows'taki dolaylı prompt enjeksiyonu zafiyetini kullanıyor. Saldırganın herhangi bir kimlik bilgisine veya kuruluşa erişime ihtiyacı olmadan, sadece normal görünen bir issue açması yeterli.

39 görüntülenme
Chatbot'ları Kokain Tarifi Vermeye İkna Eden Yöntem: 'Zincirleme Düşünce Sahteciliği'
⭐ 80

Chatbot'ları Kokain Tarifi Vermeye İkna Eden Yöntem: 'Zincirleme Düşünce Sahteciliği'

Yapay zeka araştırmacıları, önde gelen yapay zeka modellerine, kendi iç düşünceleri gibi gösterdikleri sahte akıl yürütmelerle kokain sentezleme talimatları verdirdi. Araştırma, büyük dil modellerindeki 'rol karışıklığı' açığının, AI ajanlarına hassas bilgileri sızdırtmaya kadar varan tehlikelere yol açabileceğini ortaya koyuyor.

32 görüntülenme
Bu Yapay Zeka Ajanı 6.000 Hack Girişimine Karşı Koydu: İşte Nasıl Başardı
⭐ 80

Bu Yapay Zeka Ajanı 6.000 Hack Girişimine Karşı Koydu: İşte Nasıl Başardı

Geliştirici Fernando Irarrázaval'ın yapay zeka asistanı Fiu, Hacker News'te viral olan bir deneyde 2.000'den fazla saldırganın 6.000'in üzerindeki hack girişimine rağmen sırlarını korudu. Kimse hedeflenen secrets.env dosyasını ele geçiremezken, deneyin yan etkileri arasında bir Google hesabının askıya alınması ve 500 doların üzerinde API maliyeti oluştu.

41 görüntülenme
Guardian Ajanları: Kimlik Yönetiminde Yeni Katman
⭐ 70

Guardian Ajanları: Kimlik Yönetiminde Yeni Katman

Guardian ajanları, yapay zeka ajan kimliklerini çalışma zamanında izleyerek miras alınan izinler ve güncel olmayan kimlik bilgileri gibi riskleri azaltıyor. Bu yeni nesil kimlik yönetimi yaklaşımı, AI güvenliğinde önemli bir adım olarak değerlendiriliyor.

44 görüntülenme