Açıklıklar ve Tehditler
Popüler yapay zekâ markalarını taklit eden kampanyalar artıyor ve genellikle farkında olmayan kurumsal çalışanları hedef almak için ClickFix benzeri taktikler kullanıyor.
İnternet, popüler araçlar sunmak yerine kurumsal ağların içine bilgi hırsızları, uzaktan erişim Truva atları ve diğer tehditler bırakan ikna edici sahte yapay zekâ teklifleriyle dolu.
Bu hafta yayımlanan bir raporda Any.Run araştırmacıları, Claude, ChatGPT ve benzeri önde gelen markaları taklit eden yapay zekâ temalı oltaları kullanan tehdit kampanyalarını inceledi. Altı aylık dönemde firmanın platformunda analiz edilen 1.258 olay sahte yapay zekâ aracı saldırılarına kadar izlendi.
Oltalar çeşitli biçimlerde sunuldu; SEO zehirleme ve kötü amaçlı reklamlardan sahte indirme sayfalarına ve yapay zekâ temalı nesnelere kadar uzandı. Kampanyalar en sık Anthropic’in Claude’unu taklit etti, analizlerin yüzde 60’ını oluşturdu; OpenAI’in ChatGPT ve Codex’i ise analizlerin yüzde 33’ünü temsil etti. Any.Run araştırmacıları saldırılarda sık kullanılan tanıdık bir taktik de buldu.
"Saldırılar tek bir özellik paylaşıyor: belirleyici adımı çalışan atıyor. Bir ‘kurulum komutu’ yapıştırıyor, ikna edici bir kurulum programı çalıştırıyor ya da sahte bir pencereye giriş yapıyor," raporunda belirtildi. "Bu durum kaynak kodu, bulut ve yapay zekâ API anahtarları, aktif iş oturumları, reklam hesapları ve faturalama erişimini riske atabilir; tek bir kullanıcı eylemi veri sızıntısı, hesap ele geçirme, finansal kayıp ya da geliştirme ve pazarlama operasyonlarında aksama anlamına gelebilir."
1.258 analiz, Any.Run araştırma ekibine göre bu tür saldırıların artışta olduğunu gösteriyor.
"Bu sayı tek başına sorunun ne kadar yaygınlaştığını gösteriyor; özellikle dünya genelinde 16.000’den fazla şirketin güvenlik ekipleri şüpheli etkinlikleri araştırmak için Any.Run’ı kullanıyor," araştırma ekibinden bir sözcü Dark Reading’e söyledi. "Enfeksiyonların kesin sayısını doğrulamak imkânsız olsa da veriler bu kampanyaların önemli sayıda kullanıcıya ulaştığını gösteriyor."
ClickFix, InstallFix ve Yapay Zekâ Temalı Oltalar
Any.Run’ın raporu, incelediği yapay zekâ temalı kampanyaların neredeyse yarısında ClickFix türü taktiklerin kullanıldığını gösterdi. Sahte komut satırı arayüzü kurulum programları ya da InstallFix saldırıları analizlerin yüzde 27’sini oluştururken, sahte indirme sayfalarıyla başlayan geleneksel ClickFix saldırıları yüzde 17’yi oluşturdu. Bu arada, saldırgan yapay zekâ sohbetlerinin istismarı ya da kötü amaçlı nesnelerle başlayan zincirler yüzde 25’i temsil etti.
"Sahte yapay zekâ ve ClickFix yakından bağlantılı," Any.Run sözcüsü, analizlerin yüzde 45’inde tehdit aktörünün kurbanın komutu arayüze kopyalayıp yapıştırmasını istediğini vurgulayarak konuştu. "Bu, saldırganların yapay zekâ temalı oltaları ClickFix teknikleriyle birleştirmeyi ne kadar yaygın şekilde kullandığını gösteriyor."
Oltalar genellikle GitHub sayfalarında ya da Cloudflare Pages, GitLab Pages, Google Sites, GitHub veya hatta yapay zekâ platformlarının kendileri gibi güvenilir platformlarda barındırılan kopyalanmış dokümantasyonlarda çeşitli yapay zekâ araçları için sahte CLI kurulum programları sunuyor; özellikle geliştiricileri hedef alıyor. Bu arada sahte reklamlar ve SEO ile zehirlenmiş arama sonuçları genellikle pazarlama personeline yönelik.
"Yeni yapay zekâ araçları piyasaya çıkmaya devam ettikçe ve kamu ilgisi yüksek kaldıkça sahte yapay zekâ oltalarının daha da yaygınlaşmasını bekliyoruz," araştırma ekibi söyledi. "İnsanlar hangi kaynaklara güveneceklerini bilmeden kurulum talimatları arıyor ve saldırganlar bundan yararlanıyor."
Yapay zekâ temalı InstallFix ve ClickFix varyantları, hedef kuruluşun kaynak kodu, SSH anahtarları, CI/CD belirteçleri ve bulut ve yapay zekâ API anahtarlarını elde etmek için geliştirici iş istasyonlarını tehlikeye atmak üzere tasarlandı. "Bu yaklaşım geliştiricilere karşı özellikle etkili, çünkü meşru yapay zekâ kodlama araçlarını kurmak genellikle terminal komutları çalıştırmayı gerektiriyor," sözcü söyledi. "Bu da kötü amaçlı talimatların normal kurulum adımları gibi gizlenmesini kolaylaştırıyor."
Pazarlama profesyonelleri tehdit aktörleri için daha az cazip hedefler olsa da Any.Run, bu saldırıların yüksek değerli iş hesapları için kimlik bilgilerinin tehlikeye girmesine yol açabileceği konusunda uyardı.
Riskli Nesneler ve Yapay Zekâ Sohbetleri
Artan InstallFix ve ClickFick saldırılarına ek olarak diğer yapay zekâ temalı tehdit türleri de ivme kazanıyor. Örneğin Push Security’e göre "LLMshare" olarak bilinen bir teknik oldukça etkili oldu.
LLMShare, tehdit aktörlerinin yapay zekâ platformlarında paylaşılan sohbetlerde içerik oluşturmasını içeriyor; bu sohbetler genellikle kurulum rehberliği ve kötü amaçlı yazılım içeren hizmet güncellemeleri sunuyor gibi görünüyor ve malvertising ile SEO zehirleme kullanılarak bu kötü amaçlı sohbetlere trafik yönlendiriliyor. Paylaşılan nesneler benzer bir yol izliyor; saldırganlar kötü amaçlı içeriği doğrudan yapay zekâ platformlarına yayımlıyor.
"Paylaşılan sohbetler, nesneler ve en son özel GPT’ler kullanan son varyantlar özellikle kötü," Push Security araştırmacısı Dan Green Dark Reading’e söyledi. Bunlar meşru yapay zekâ siteleri; yani gerçek Claude, ChatGPT vb. alan adları ve insanlar orada kötü amaçlı bir bağlantıyla karşılaşmayı beklemiyor.
Green, InstallFix gibi LLMshare’in de çok etkili olduğunu ekledi, çünkü günümüzün hızlı yapay zekâ benimseme döneminde "çevrimiçi çok normal etkileşimleri ve davranışları" kullanıyor. Gerçekten de yapay zekâ temalı InstallFix saldırıları Push Security’nin aylık tespitlerinin yüzde 5 ila 10’unu oluşturuyor ve sayı her ay artıyor.
"Bugün herkesin yapay zekâ araçlarını kullanması teşvik ediliyor ve birçoğu meşru olarak komut satırından kuruluyor," Green söyledi. "Düzenli kullanıcılar daha çok geliştirici gibi çalışıyor; bu da saldırganların onları manipüle etmesini kolaylaştırıyor."
Any.Run araştırmacıları, bu saldırıların birçoğunun meşru alan adlarını kullandığını ve bazen taklit etmeye çalıştıkları yapay zekâ platformlarının doğrudan üzerinde barındırıldığını vurguladı; bu durum tespiti zorlaştırıyor. Ancak tehdidi hafifletmenin yolları var ve bunlar çalışan davranışıyla başlıyor.
"Bu araştırmadaki her desen, bir çalışanın kendi başına yapay zekâ aracı aramasıyla başlıyor," raporda belirtildi. "Onaylı yapay zekâ araçlarının kısa bir listesini resmi kaynaklarıyla birlikte yayımlayın; satıcı sitesi, winget, Homebrew ya da satıcının paket deposu ve bunları MDM ya da yazılım portalı üzerinden kurun."
Any.Run araştırmacıları ayrıca güvenlik ekiplerinin standart kullanıcıların komutları yapıştırıp çalıştırma yeteneğini kısıtlamasını, çalışanların da kurulum komutlarını üçüncü taraf bağlantılara, reklamlara, paylaşılan sohbetlere ya da diğer kaynaklara güvenmek yerine satıcının resmi dokümantasyonuyla her zaman doğrulamasını sağlayacak şekilde eğitilmesini önerdi.
