Açık kaynaklı AI kodlama ajanlarına karşı decades-old shell injection risksini ortaya çıkaran GuardFall adlı bir araştırma yapılmıştır. Adversa AI tarafından yapılan bu araştırma, 11 popüler açık kaynaklı kodlama ve bilgisayar kullanım ajanının 10'unun bu risklere karşı savunmasız olduğunu göstermiştir.
Bu riskler, ajanların shell komutlarını çalıştırma şeklini hedef alıyor. Bir ajan, booby-trapped bir repository veya yazılım paketini çalıştırdığında, gizli bir komut sessizce çalıştırılarak dosyaları silebilir veya hesabınızın erişebileceği bilgilerin çalınmasına neden olabilir.
GuardFall, bash'in komutları çalıştırma şeklini hedef alıyor. Most of these agents try to stay safe by checking each command against a blocklist of dangerous patterns before running it. Ancak, bu kontroller plain text olarak yapıldığı için, bash'in komutları çalıştırma şekline uygun değildir.
Örneğin, bir filter rm komutunu arıyorsa, r''m komutunu görmeyecektir, çünkü bu iki komut plain text olarak farklı görünmektedir. Ancak, bash boş quote'ları kaldırarak rm komutunu çalıştıracaktır.
Aynı fikir, diğer formlarda da çalışmaktadır: bir komut hidden in base64 ve piped into a shell, veya ordinary tools gibi find ve dd turned destructive with the right flag.
