Siber Saldırılar ve Veri İhlalleri
Açıklar ve Tehditler
Tehdit aktörü, açıkta kalan verileri bulmak için OpenAI, Anthropic, Meta ve diğerlerinin ajanları gibi görünen botların arkasına saklandı.
Tehdit aktörü, daha fazla 30 farklı yapay zeka botunun arkasına saklanarak açıkta kalan kimlik bilgilerini bulup çalmaya çalıştı, hassas verileri sürekli taradı ancak başarılı olamadı. Bulgular, kuruluşlar için büyüyen bir sorunu gözler önüne seriyor: ağlarında hangi yapay zeka ajanlarının bulunması gerektiği ve hangilerinin kötü niyetli olabileceği arasındaki ayrımı yapmak.
Cequence Security bünyesindeki CQ Prime Research tarafından bugün yayımlanan rapora göre, OpenAI, Anthropic, Perplexity, Meta ve diğerlerinden gelen tarayıcılar ve asistanlar da dahil olmak üzere 32 botu taklit eden bir tarayıcı, perakende, finansal hizmetler, telekomünikasyon, enerji ve yazılım sektörlerindeki etkilenen kuruluşlardan parolalar, API anahtarları ve bulut kimlik bilgileri içeren dosyaları istedi.
Araştırmacılara göre tarayıcı Eylül sonundan bu yana çalışıyor ve Ekim sonu itibarıyla hâlâ aktifti. Etkinliği 21 Ekim’de tespit eden ekip, bu ayın tek bir gününde Cequence korumalı kuruluşların yüzde 48’inin kötü niyetli yapay zeka bot trafiği aldığını keşfetti.
Bulgular, işletmelerin hangi yapay zeka ajanlarına güvenip hizmetlerine erişim izni vereceğini çözmesi gereken kritik bir dönemde güvenlik ekipleri için büyüyen bir zorluğu vurguluyor.
"Saldırganlar bu izin ver ve reddet kararlarının her birini test edebilir ve Cequence, bir işletmenin hangi ajanlara güvendiğini araştırdıklarını, ardından içeri girebilmeleri için bekledikleri ajanları taklit ettiklerini görüyor," diye yazdı CQ Prime tehdit araştırması ve veri bilimi direktörü Will Glazier raporunda.
Kötü Niyetli Tarayıcı Kendini Ele Veriyor
Tarayıcı, hedefleri birer birer, günün her saati ele alarak yaklaşık 8 saniyede 50 ila 190 istek arasında bir patlama gönderip sonra ilerliyor. Rapora göre etkilenen kuruluşlar için şanslı olan taraf, isteklerin neredeyse tamamının engellenmesi ya da başarısız olmasıydı.
"Önce her isteğe yanıt veren web sitelerini bulmak için rastgele saçma yollar gönderiyor, bu yaygın bir tarama tekniği," diye yazdı Glazier.
CQ Prime Research, trafiği kötü niyetli olarak tanımladı; çünkü tarayıcının diğer trafikle karışma girişimini zayıflatan bazı dikkat çekici davranışlar sergiledi. Rapora göre tarayıcı yaklaşık 32 bot kimliğini eşit şekilde döndürüyor; gerçek botlar böyle yapmıyor; tek bir makine OpenAI, Anthropic, Meta ve Perplexity’den bir ajan olduğunu saniyeler içinde iddia etti.
Saldırgan, sahte Claude kimliklerinin tümü için Anthropic’in tarayıcısının iletişim adresini kullandı, farklı Claude ajanları gibi görünürken bile bu durum metnin kopyalandığını ve her ajan için benzersiz olmadığını gösteriyor, CQ Prime Research’e göre.
Tarayıcı ayrıca yaklaşık 90 farklı yoldan yapılandırma dosyaları, bulut kimlik dosyaları ve özel SSH anahtarları için istek yapıyor, kendini tanımlamıyor ya da iletişim adresi sunmuyor. Meşru internet tarama hizmetleri bu dosyalara asla ihtiyaç duymaz ve her zaman kendini tanımlar.
"İstekler kendini ele verdi," diyor güvenlik firması Black Duck’ta çözümler yönetimi kıdemli direktörü Collin Hogue-Spears, bu da "Cequence’in belgelediği şeyin test, bir ihlal değil" olduğu anlamına geliyor.
Finansal Hesaplar Risk Altında
Peki bir ağdaki yapay zeka ajanları içeri girdiğinde ne olur? Bu, özellikle bankalar ve finans kurumları için kuruluşların karşı karşıya olduğu bir durum; uzmanlar arasında kötü niyetli ajanların bu kuruluşlardaki müşteri hesaplarına fark edilmeden giriş yaptığı yönünde artan endişe var. Böyle bir faaliyetin küresel ekonomik çalkantıya yol açabileceği belirtiliyor.
Şimdilik CQ Prime Research, finansal hizmet firmalarında müşteriler adına hareket eden yapay zeka ajanlarının 4 bin istekten birinden azını oluşturduğunu buldu. "Bankaların en çok endişelendiği ajanlar, müşterinin kendi kimlik bilgileriyle sıradan bir tarayıcı üzerinden giriş yapar ve kendini duyurmaz," diye yazdı Glazier raporda.
Bu noktada finans kurumlarının hangi yapay zeka ajanlarının meşru olduğunu ve hangilerinin olmadığını belirlemek için harekete geçmeye başlaması gerekiyor. Ancak Keeper Security’de baş bilgi güvenliği sorumlusu Shane Barney’e göre şimdi harekete geçmek bile tehdit aktörlerinin faaliyetlerine yetişmeye çalışmak anlamına gelebilir.
"Bankalar şu anda ağlarında hangi yapay zeka botlarının bulunması gerektiğini anlamak için çabalıyor, ancak siber suçlular bir sonraki aşamaya çoktan geçti," diyor. "Artık bu sistemlere girmeye çalışmıyorlar. Bunun yerine güvenilen yapay zeka ajanları kılığına girerek sessizce giriş yapıyorlar."
Yapay Zeka Ajanı Taklitlerine Karşı Savunma
Yapay zeka botları ve ajanlarından kaynaklanan büyüyen tehdidi hafifletmek için güvenlik liderlerinin, Barney’e göre yapay zeka ajanlarını, API anahtarlarını ve servis hesaplarını insan yöneticilerle aynı operasyonel titizlikle ele alması gerekiyor. "Bu, her erişim yolundaki örtülü güveni ortadan kaldırmayı gerektiriyor," diyor.
Nitekim CQ Prime Research’e göre kuruluşlar bir botun iddia ettiği kimliğe tek başına güvenmemeli ve ajanları imzalı istekler, yayımlanmış adres aralıkları ya da doğrudan entegrasyonlar yoluyla doğrulamalı.
Ayrıca iddia edilen kimlikle eşleşmeyen davranışları izlemeliler, "örneğin bir yapay zeka asistanının yapılandırma veya kimlik dosyası istemesi gibi," diye yazdı Glazier.
Kuruluşlar ayrıca tarama botlarının kolayca bulabileceği savunmasız dosyalarda statik kimlik bilgilerini bırakmayı da durdurmalı; böylece açık güvenlik boşlukları ortadan kalkar. Bunun yerine Barney, "Güvenlik ekipleri, uzun ömürlü yerel kimlik bilgilerinden uzaklaşıp merkezi, sıfır bilgi gizli anahtar kasalarına yönelmeli," diyor.
