Olay, araştırmacılara göre öncü yapay zeka ajanlarının saldırı zaman çizelgesini dramatik biçimde kısaltabildiğini ve büyük ölçekli bir ihlali koordine edebildiğini gösteriyor.
Elizabeth Montalbano, Katkıda Bulunan Yazar
Saldırgan, kurumsal bir ağı 10 saatten kısa sürede aşmak için yapay zeka ajanları kullandı; benzer büyüklükteki bir saldırının tipik olarak iki haftalık süreceği zaman dilimi önemli ölçüde kısaldı.
Palo Alto Networks bünyesindeki Unit 42 araştırmacıları, 2 Eylül'de yayımlanan rapora göre olaya müdahale etti. Rapora göre insan bir saldırgan, "makine hızı" fidye yazılımı saldırısının bir parçası olarak öncü yapay zekayı kullanarak kurumsal ağı özerk biçimde ihlal etti. Sadece birkaç saat süren saldırıda saldırgan kimlik bilgilerini topladı, kök erişim ele geçirdi, CI/CD hatlarını ele geçirdi ve kurbanın kendi yapay zeka altyapısını bile kendisine karşı çevirdi.
Unit 42 araştırmacıları raporda şunları yazdı: "Ajanlar şirketin güvenlik katmanlarını yöntemli biçimde ihlal etti, her biri ortak bir hedefe ulaşmak için savunmanın farklı bir katmanını hedef aldı." "Etki, normalde insan operatörlerin yaklaşık iki hafta alacağı birden fazla kırmızı ekibin koordineli çabasının ölçeğindeydi."
Olay, saldırganların ajanlardan oluşan bir ekibi ağlarını ve varlıklarını tehlikeye atmak için ne kadar hızlı organize edebileceği konusunda kuruluşlar için sert bir uyarı niteliğinde.
AI Destekli Koordinasyon Farkı Yaratıyor
Nitekim yapay zekâ destekli saldırılar giderek yaygınlaşıyor, ancak bu saldırıyı öne çıkaran, araştırmacıların yazdığına göre saldırganın "yeni bir sıfırıncı gün açığı ya da süper elit taktikler olmadan" elde ettiği operasyonel verimlilik oldu.
"Saldırgan, taktiksel uygulamayı yapay zeka ajanlarına bıraktı; ajanlar saldırı zinciri boyunca gerçek zamanlı olarak izledi, değerlendirdi, harekete geçti ve yeniden planladı, böylece hız arttı" dediler. Saldırgan ayrıca ajana kuruluşun güvenlik duruşu hakkında bir "rapor" bırakma talimatı verdi; bu rapor 80 sayfalık teknik bir denetim şeklinde geldi.
Saldırı, yapay zekânın tek tek görevleri otomatikleştirmek için kullanılmasından, örneğin kimlik avı e-postaları yazma, ikili dosyaları analiz etme ve komut dosyaları üretme, insan bir saldırganla birlikte kötü niyetli hedeflere ulaşmak için koordineli biçimde çalışan bir ajan grubuna doğru evrimini gösteriyor; bu gözlemi AI güvenlik firması Detectify CEO'su Rickard Carlsson yaptı.
"Buradaki değişim orkestrasyon" diyor. "Unit 42'nin anlattığı, uzmanlaşmış ajanların paralel çalışıp bulguları paylaştığı ve uyum sağladığı, bir insanın hedefleri belirleyip sonuçlu kararları aldığı bir küme."
Bu şekilde "saldırı süreci bir iş akışına dönüştü" diye ekliyor Carlsson.
AI Ajanları Özel Operasyon Ekibi Gibi
Nitekim operasyon, geleneksel bir hackerin kontrol listesi üzerinden ilerlemesinden ziyade otomatikleşmiş uzman operatörlerden oluşan bir ekip gibi yapılandırılmış görünüyor; araştırmacılara göre saldırgan, mevcut yapay zekâ destekli yazılım geliştirme süreçlerini kullanarak saldırıyı yürüttü.
Saldırganın kullandığı süreçler arasında birden fazla öncü yapay zeka ajanına LLM çağrıları; ajanlar ve oturumlar arasında aktarılan yapılandırılmış Markdown dosyaları; dinamik operasyonları yönetmek için yapay zekâ tarafından üretilen özel komut dosyaları yer aldı. Araştırmacılara göre ajanlar birlikte eylemlerinin sonuçlarını işledi, ne yapacaklarına karar verdi ve gerçek zamanlı olarak yeniden planladı.
10 saatlik operasyonel zaman çizelgesinde yer alan kötü niyetli faaliyet çeşitlilik gösterdi ve tehdit aktörünün halka açık bir API uç noktasını ihlal ederek ağa tünel açması ve dahili mikroservisleri haritalamak için otomatik bir keşif ajanı dağıtmasıyla başladı. Tehdit aktörü ayrıca kurumsal kod depolarını tarayan alt ajanlarla gizli bilgileri topladı, sabit kodlanmış belirteçler ve servis parolaları çıkardı.
Saldırgan daha sonra bu açığa çıkan belirteçleri kullanarak gizli yönetim sistemine sızdı ve kök sistem erişimi elde etmek için ana yönetici kimlik bilgilerini aldı. Kurumsal bir kod uygulamasının kontrolünü ele geçirdi ve bulut erişim anahtarlarını dışarı aktardı. Araştırmacıların yazdığına göre bu anahtarlar, kurbanın yapay zeka uç noktalarını gelecekteki kötü niyetli faaliyetler için post-ihlal altyapısına dönüştürmek için kullanıldı.
Detectify CEO'su Rickard Carlsson, saldırıda istismar edilen güvenlik açıkları hakkında şunları gözlemliyor: "Dikkat çekici olan, altta yatan zayıflıkların ne kadar sıradan olduğu: açık bir API, sabit kodlanmış kimlik bilgileri, hassas sistemlere açılan yollar. Ajanlar yeni bir güvenlik açığı sınıfı keşfetmedi; mevcut açıklardan daha hızlı ve daha sistematik biçimde geçti. İstismardan ziyade koordinasyonda zekâ vardı."
Savunmada AI'nin Hızına ve Uyarlanabilirliğine Yetişmek
Genel olarak saldırı, "öncü yapay zeka ajanlarını etkili biçimde nasıl dağıtacağını anlayan bir saldırganın saldırı temposunu dramatik biçimde hızlandırabileceğini" ortaya koyuyor; araştırmacılar saldırganların giderek daha fazla yapay zeka ajanını araç setlerine ekleyeceğini beklediklerini yazdı. Bu, otomatik ajan döngülerine karşı savunmanın "yapay zekâ destekli saldırıların hızına ve uyarlanabilirliğine" yetişmesini gerektirecek.
Carlsson'a göre bu, işletmelerin "güvenliği periyodik değil sürekli hale getirmesini" gerektirir. "Depolar, hatlar, altyapı-olarak-kod ve gizli yönetim, saldırı yüzeyinin bir parçası olarak ele alınmalı."
Ayrıca kimlik bilgilerinin kısa ömürlü hale getirilmesi, yapay zeka uç noktaları ve entegrasyonlarının envanterinin çıkarılması ve "ele geçirilen erişimin hızlıca kapatılabilmesi için" izolasyonun otomatikleştirilmesi gerektiğini ekliyor.
Kuruluşlar ayrıca Unit 42'ye göre yapay zekâ destekli saldırıların sağladığı otomasyon konusunda güvenlik bilincine sahip olmalı ve davranışsal döngüleri tespit etmeli. Araştırmacılar savunmacılara şu tavsiyede bulundu: "Operasyonel döngüleri arayın; ani API istekleri, hızlı 401/200 HTTP durum değişimleri, paralel kimlik doğrulamalar ve beklenmeyen kimliklerden gelen ani model kullanımı gibi."
