Güvenlik firması AIR, sahte bir yapay zeka agent skill'i oluşturarak bunu popüler bir skill pazaryerinde ve Instagram reklamıyla yaydı. Firma, söz konusu skill'in kurumsal hesaplara ait olanlar dahil yaklaşık 26.000 agent'a ulaştığını açıkladı.
Firmanın test ettiği tüm güvenlik tarayıcıları bu sahte skill'i güvenli olarak işaretledi. Yük tamamen zararsızdı: yalnızca kullanıcının e-posta adresini topluyordu, başka bir şey yapmıyordu.
Araştırmanın amacı, insanların bir skill'e güvenirken dayandığı sinyallerin hiçbirinin tehdit göstermediğini ortaya koymaktı; ne güvenlik tarayıcıları, ne GitHub yıldızları ne de açık kaynak itibarı bu sahte skill'i yakalayabildi.
Skill, bir agent'ın kendi bağlamına yükleyip yaklaşık olarak bir kullanıcı komutu kadar yetkiyle uyguladığı talimatlar paketidir. Asıl sorun tam da bu güven ilişkisinden kaynaklanıyor; skill tarama araçlarının var olmasının nedeni de bu.
brand-landingpage adlı bu sahte skill, Google'ın Stitch tasarım aracını kullanarak açılış sayfası oluşturacağını iddia ediyordu ve doğrudan teknik bilgisi olmayan kullanıcıları hedef alıyordu.
AIR, skill'i güvenilir göstermek için iki güven sinyalini hedef aldı: GitHub yıldızları ve temiz bir tarayıcı sonucu. Yıldız kazanmak için yaklaşık 36.000 yıldızı ve 156 skill'i bulunan bir skill pazaryeri deposuna pull request açtı.
