Siber saldırılar ve veri ihlalleri
Kanıtlar, fidye çetesinin ihlali sırasında bir modelin komutları oluşturmuş ve gözden geçirmiş olabileceğini gösteriyor, ancak araştırmacılar tam otomasyondan söz etmekten kaçındı.
Alexander Culafi, Kıdemli Haber Yazarı, Dark Reading
İngiltere'deki bir okul ağını hedef alan 3AM fidye yazılımı saldırısı, siber suçluların yapay zekâyı insan operatörlerin yerini almak yerine güç çarpanı olarak nasıl kullanabileceğine dair erken bir bakış sunabilir.
Bitdefender bugün vahşi doğada gözlemlenen "hibrit yapay zekâ fidye saldırısı" ile ilgili araştırma yayınladı ve gerçekleştirilen bazı eylemlerin insan veya ajan unsurlarına atfedildiğini belirtti. Yüzeyde saldırı oldukça doğrudan. Blog yazısında açıklandığı üzere, 3AM fidye yazılımı iştiraki İngiltere'de bir okula saldırdı, "ardından diğer okullara ulaşmak için sıradan Windows araçlarını kullanarak etki alanı güvenleri oluşturdu."
Saldırganlar yedekleme kimlik bilgilerini çaldı, sahte etki alanı yöneticisi hesapları oluşturdu, daha önce ayrı olan Active Directory etki alanları arasında güvenler kurdu, okullar arasında hareket etti, veri çaldı ve 3AM fidye yazılımını dağıttı. Başka bir deyişle saldırı, Bitdefender'ın yapay zekânın operasyonun bazı bölümlerini gerçekleştirmeye yardımcı olduğunu iddia etmesine rağmen büyük ölçüde tanıdık bir fidye yazılımı senaryosunu izledi.
Saldırının daha ilginç hale geldiği nokta, güvenlik satıcısının savunduğu üzere, yapay zekâ içeren saldırılar için önceden var olan kategorilere tam olarak uymamasıydı. Ne tamamen veya büyük ölçüde büyük bir dil modelinin oluşturduğu kötü amaçlı yazılım olan yapay zekâ tarafından üretilmiş bir saldırıydı; ne de insan mühendislerinin yapay zekâyı işi hızlandırmak için kullanırken araçları inşa ettiği yapay zekâ destekli bir saldırıydı; ne de büyük dil modelinin eylemleri koordine edip gösteriyi yürüttüğü yapay zekâ tarafından işletilen bir saldırıydı.
Bu durumda Bitdefender, bir yapay zekâ sisteminin tekrarlayan komut üretimini ve sorun gidermeyi üstlendiğini, yüksek düzey kararların ise insan operatör tarafından verildiğini savundu.
Siber saldırgan profili: kısmen insan, kısmen ajan?
Saldırının birçok unsuru fidye yazılımı için sıradandı; örneğin yaşamdan yararlanma yaşam-off-the-land, LOTL tekniklerinin önemli ölçüde kullanılması, saldırganların kötü amaçlı yazılıma güvenmek yerine kurbanın makinesinde zaten bulunan araçları kötüye kullanması — bu durumda PowerShell, Windows Management Instrumentation, WMI, reg, netsh, rundll32 ve Windows'ta önceden yüklenmiş diğer etki alanı ve zamanlama yardımcı programları. Saldırgan ayrıca "Impacket tarzı uzaktan yürütme aracı"nın yanı sıra Mimikatz ve daha önce yayınlanmış bir Veeam betiğini de kullandı.
Ama saldırının sıradan doğasına rağmen Bitdefender, bir ajan döngüsü kullanımını düşündüren birkaç şey tespit etti; bu, bir yapay zekâ ajanının çalışmasını sağlayan kontrol yapısıdır. Bazı eylemler insan operatör yerine bir program tarafından alınmış gibi göründü.
"Komutlar modelin tipik izlerini taşıyor: yedekleme yazılımının web arayüzüne, Veeam gibi yaygın bir kurumsal yedekleme ürününe, satıcının dokümantasyonuyla uyuşmayan bir port ve giriş yöntemiyle çağrı, bellekten yazma yerine el kitabından yazma hatasının tipik bir hatası, Veeam REST API yetkilendirmesiyle birlikte, onay dosyaları, kendi kendini etiketleyen çıktı ve aynı betiğin numaralandırılmış revizyonları," blog yazısı şöyle devam ediyor. "Yeniden denemeler de bir döngü gibi davranıyor."
Bir diğer örnekte araştırmacılar, PowerShell komut denemeleri arasındaki geçen sürenin elle verilmiş olsaydı bir insanın alacağından daha kısa, ancak büyük dil modelinin tek başına yönettiği durumda olduğundan daha uzun olduğunu değerlendirdi. Bireysel görevler arasında daha uzun süre geçmesine rağmen yeniden denemeler arasında daha kısa süre geçmesi "bir kişinin bir sonraki adımı seçtiği ve bir modelin yeniden denemeleri yönettiği" duruma benziyor.
Bitdefender bulgularını, saldırganın çalıştığı makineye erişemediği için yapay zekâ modeliyle ilgili somut bir şey belgeleyemediği notuyla sınırladı. Araştırma, bu saldırının bir insanla bir ajan arasında çalışan bir model gibi davrandığını savunuyor; bu, savunmacıların plan yapabileceği çalışan bir model.
Bunu akılda tutarak Bitdefender'da teknik çözümler direktörü Martin Zugec, Dark Reading'e "finansal olarak motive siber suçlular için hibrit bir model, tamamen otonom bir saldırıya kıyasla teknik ve ekonomik olarak daha makul" diyor.
Sadece bir fidye yazılımı saldırısı değil
Ama tek başına bir olay olarak bile durum dikkat çekici çünkü birincil kurban kritik bir sektörde bir kuruluştu ve Bitdefender'ın anekdotu, iştirakin tekrarlayan sorun giderme ve komut üretimini üstlenerek saldırıyı ölçeklendirmek için bir yapay zekâ ajanı kullanmış olabileceğini öne sürüyor, ancak rapor saldırganın aksi halde yoksun olduğu yapay zekâ destekli yetenekleri göstermekten kaçınıyor.
Üstelik benzer diğer kurumlar da hedef olabilir. "Etki alanı denetleyicisinden etki alanları arasındaki güven ilişkilerini saydı ve SYSVOL'u, yani Active Directory'nin oturum açma betiklerini sakladığı ve herhangi bir etki alanı kullanıcısı tarafından okunabilen paylaşılan klasörü, diğer okulların adlarını ve alt ağlarını aradı," araştırma blog yazısına göre.
İyi haber şu ki bu saldırının büyük bölümü tipik fidye yazılımı senaryosunu izlediği için düzenli fidye yazılımını durduran savunma önerileri bu araştırmada anlatılan saldırıyı da durduracaktır.
Zugec, ajan döngülerinin gösterge açısından gürültülü olduğunu ekliyor, çünkü birçok eylemleri tekrarlayıcı ve kaba kuvvet niteliğinde. "Bir ajan döngüsü saldırıyı sessiz yapmaz, tekrarlayıcı yapar: aynı komutun tekrar tekrar çalıştırılması, küçük değişiklikler, numaralandırılmış betikler ve diskte bırakılan deneme dosyaları. En hızlı yeniden denemeler bile 40 saniye veya daha uzun sürdü. 'Makine hızı' çok pahalı olaylar hakkında bir pazarlama ifadesidir; gerçek saldırılarda, özellikle yerel modellerle, bu daha yavaş ve daha gürültülü kalıbı bekleriz. Hız ipucu değil, tekrarlamadır."
Satıcı önleme odaklanmayı öneriyor: Farklı etki alanlarının yönetici kimlik bilgilerini ayrı tutun, yedeklemeleri olası bir hedef olarak ele alın, uzaktan yürütmeyi ve yönetici paylaşımlarını bilinen yönetim ana bilgisayarlarıyla sınırlayın, asla kullanmayacak makinelerde yorumlayıcıları ve kabukları engelleyin ve her makineye uç nokta güvenliği araçları yerleştirin.
"Hacim ve hızdan bağımsız çalışan kontrolleri tercih edin," blog yazısı şöyle diyor, "çünkü bir eylemi ilk kez ve yüzüncüyü durdururlar."
