Convince bir AI tarayıcıya oyun oynadığını söyleyin ve sizin login bilgilerinizi verebilir. Bu, güvenlik firması LayerX'in geliştirdiği BioShocking adlı bir teknik sayesinde mümkün oluyor. Bu teknik, altı AI tarayıcısı ve asistanını kullanıcı kimlik bilgilerini kopyalamaya ve saldırgana göndermeye kandırdı.
Hedefler arasında OpenAI'nin ChatGPT Atlas, Perplexity'nin Comet ve Anthropic'in Claude tarayıcı uzantısı bulunuyordu.
Bir AI tarayıcı, sadece sayfaları okuyabilen bir tarayıcı değil, sizin adınıza hareket edebilen bir tarayıcıdır. Ajenta moduna geçirdiğinizde, tıklayabilir, yazabilir ve zaten giriş yapmış olduğunuz sitelere erişebilir. Bu erişim, bütünün amacıdır ve aynı zamanda sorunudur.
Saldırı, AI tarayıcıların web sayfalarını okuyarak ve kullanıcıların zaten giriş yapmış olduğu sitelere erişerek çalıştığından yararlanıyor. Saldırgan, bir web sayfasını puzzle olarak tasarlayabilir ve AI tarayıcının bu puzzle'ı çözmesini sağlayabilir. Puzzle, AI tarayıcının güvenlik mantığından ziyade oyun mantığına göre hareket etmesini sağlar.
Saldırı nasıl çalışıyor?
Saldırı, bir puzzle olarak tasarlanmış bir web sayfasıyla başlar. Distopik tema uyumlu olsun diye, puzzle yanlış cevapları ödüllendirir, örneğin 2 + 2 = 5 gibi. Ajent, bu "yanlış"ın kazanan hamle olduğunu kabul ettiğinde, güvenlik mantığından ziyade oyun mantığına göre hareket etmeye başlar. Puzzle'nın son adımı, ajentin kullanıcı kimlik bilgilerini almasını ister ve altı ajentin hiçbirinin bunu reddetmedi.
Tehlikeli kısım, ajentin nereye baktığıdır. Testte, kurbanın iş GitHub deposuna bir bağlantı gönderildi ve ajent, SSH giriş kimlik bilgilerini çekerek saldırgana iletti.
