Anthropic'in son çalışması, araştırmacıların kapatmanın "zorlayıcı" olacağını söylediği yapay zeka kendi kendini kopyalama olgusunu araştırmak için IoT ve ağ testlerini birleştirdi.
Alexander Culafi, Dark Reading Kıdemli Haber Yazarı
Kendi kendini kopyalayan yapay zeka siber saldırıları yolda olabilir, ancak savunmacılar için henüz pratik bir endişe gibi görünmüyor.
Anthropic'ten William Zhou ve Daniel Freeman, 12 Ekim tarihinde ticari IoT cihazları, yapay zeka modellerinin cihazlar ve ağlar arasında kendi kendini kopyalama kapasitesi ve bu kopyalamanın kötü amaçlı bilgisayar solucanları için kullanılıp kullanılamayacağı ile ilgili araştırma yayımladı. Zhou ve Freeman araştırmada "Yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari internet-şeyler cihazlarında kendi kendini kopyalamaya yetecek kadar yetenekli olmasının aylar uzağında olabileceği" sonucuna vardı.
Otonom bir solucanın güvensiz makineler ağında kötü amaçlı bağlamda kendini yayabileceğini göstermek için süreci dört adıma böldüler: hedefleri belirleme, cihazlar arasında erişim sağlama, yeni bir cihazda çıkarım kurma ve o cihazdan bir sonrakine yayılmaya devam etme.
Yeni çalışma birden fazla deneyi kapsadı ve nihayetinde ucuz Android cihazlar ağının bir modeli barındırabileceğini ve yapay zeka modellerinin otonom kopyalanma için gereken bireysel adımları giderek daha iyi yerine getirebildiğini gösterdi.
Yapay Zeka Solucanı Potansiyelinin Test Edilmesi
Araştırmacılar Google'ın açık ağırlıklı Gemma 4 modelinin 26 milyar toplam parametreli bir versiyonu olan Gemma4-26B-A4B'yi, 15 adet ucuz markasız Android TV kutusu üzerinde başarıyla çalıştırdı. Yaklaşık adet başı 55 dolar fiyatla raflardan alınan cihazlar 0,39 token/saniye hızında birbirine bağlandı. Her kutu modelin bir kısmını barındırdı; bu da yetenekli bir modelin düşük seviye tüketici cihazlarında çıkarım yapabileceğinin gösterilmesi içindi.
"Böyle bir çoğaltıcı kapatılması zorlayıcı olur, çünkü kapatılacak merkezi bir nokta yok — yavaş olabilir (ikiye katlanma süresi günler)," diye yazdı Zhou ve Freeman. "Yapay zeka dışı kötü amaçlı yazılımların aksine, kendi başına tanıdık olmayan cihazları da anlayabilir."
İkinci bulguyla ilgili başka bir deneyde Anthropic, yapay zeka modellerinin Android ağı içinde otonom olarak yayılıp yayılamayacağını test etti. Araştırmacılar Google Cloud Platform'ta emüle edilen bir ağda oluşturulan yalıtılmış 8 düğümlü Android ağında tek bir düğüm başlattı ve çeşitli yapay zeka modellerine bir düğümden diğerine otonom olarak yayılmaları talimatını verdi.
Modellerin hedef bulması, bir yük kopyalaması, sonraki düğümlerde çıkarım kurması ve daha fazla insan müdahalesi olmadan yayılmaya devam etmesi istendi. İlk deney IoT donanımının topluca kullanışlı yapay zeka modellerini barındırabilip barındıramayacağını test ederken, ikincisi modellerin bilgisayar solucanı gibi bir ağda yayılmak için gerekli adımları otonom olarak yerine getirme talimatını alıp alamayacağını test etti.
Çalışma ajan olarak hareket etmesi için bir dizi açık ağırlıklı model test etti: Qwen3.5-9B, Gemma4-26B-A4B, Qwen3-Coder-Next ve GLM-5.2, hepsi "solucan" yükü olarak Llama3.1-8B'nin bir versiyonunu yaydı. Modellerin yeni ele geçirilen cihazlarda kendi ağırlıklarını kopyalayıp çalıştırabileceğini test etmek yerine Anthropic, ajan modellerin bu yükü başarıyla dağıtıp yayılmaya devam edip edemeyeceğini ölçmek için yükü Llama3.1-8B versiyonu olarak standartlaştırdı.
Diğer bir deyişle testler son derece elverişli koşulları yansıtıyor. Anthropic yayılımı kimlik doğrulaması yapılmamış Android Debug Bridge erişimi üzerinden sağladı, bu da deneyi bir tehdit aktörünün gerçekçi olarak deneyeceği bir saldırıdan ziyade üst sınır yetenek testi haline getirdi.
Sadece GLM-5.2 uçtan uca iş akışını güvenilir şekilde tamamladı; beş denemenin dördünde tüm sekiz düğüme ulaştı, beşincisinde yedisine ulaştı. "30B parametre ve altındaki modeller bugün kopyalanma için gereken bireysel adımların birçoğunu zaten tamamlayabiliyor, ancak bunları uçtan uca birleştirdiklerinde hatalar yapıyor," diye yazdı Zhou ve Freeman.
GLM'in başarıları saldırgan açısından ideal koşulları yansıtıyor gibi göründü, çünkü düğümler arası sömürü zorluğu önemsiz tutulmuştu. Araştırma ayrıca GLM-5.2'nin 40 milyar aktif parametrede önemli ölçüde daha yetenekli bir model olduğunu, alt uç Qwen3.5-9B'nin dokuz milyar parametre ve Gemma4-26B-A4B'nin dört milyar aktif parametreye sahip olduğu karşısında gösterdi.
Yapay Zeka Modeli Replikasyonu Gerçekten Kaçınılmaz mı?
Anthropic, GLM-5.2'nin bugün solucan benzeri kopyalanma için tüm adımları yapabilme yeteneğine sahip olduğunu ve daha zayıf modellerin kopyalanma için bireysel adımların birçoğunu yapabildiğini varsayarsak, bu modellerin GLM-5.2'ye yetişmesinin zaman meselesi olabileceği sonucuna varıyor. "Küçük modeller tarihsel hızlarında gelişirse, bu yetenek seviyesine yılın sonuna kadar ulaşacaklar. Küçük ağırlık tabanlı çoğaltıcılar kısa süre sonra mümkün olabilir," diye belirtti araştırmacılar.
Buna rağmen tarihsel hızlar ilerlemenin mutlaka kullanışlı göstergeleri değil. Anthropic, bir saldırganın düşük seviye açık ağırlıklı bir modeli alıp bir ağda kendi kendini kopyalayabilen bir yapay zeka solucanı yaratabileceğini göstermedi. Firma bunun yerine birden fazla gösterimle bu tür bir saldırının gelecekte bir olasılık haline nasıl gelebileceğini gösterdi.
Ancak OT ve IoT güvenlik firması Viakoo'da başkan yardımcısı olan John Gallagher, Dark Reading'e bu saldırgan tekniğinin bir gecede yaygınlaşmayacağını söylüyor.
"Bugünün OT/IoT cihazları daha eski sistemlere kıyasla önemli ölçüde daha fazla bilgi işlem gücü ve depolama içeriyor (NPU'lu cihazları ve özel belleği düşünün), ancak pratik yapay zeka kendi kendini kopyalama için başka engeller var," diyor. "Örneğin, model ağırlıklarının gigabyte'larını hücresel/düşük bant genişliğine sahip OT/IoT bağlantıları üzerinden veya bellek kısıtlı flash depolamaya taşıma hâlâ büyük pratik bir engel."
Nozomi Networks'te siber güvenlik stratejisi direktörü Chris Grove, yapay zeka kendi kendini kopyalamanın savunucu açısından özellikle tehlikeli olduğunu söylüyor. "Altyapının kendi kendini yayabilen, makine hızındaki tehditlere karşı ayakta tutulması, insan hızındaki tehditlere karşı savunma yapmaktan daha pahalıya mal olur," diyor.
Grove, laboratuvarın ne sonuç çıkarırsa çıkarsın birinin sonunda bu yeteneğe ulaşacağını ve "otomatik savunma yeteneğinin muhtemelen gerekli olacağını" savunuyor.
Anthropic, Dark Reading'in yorum talebine yanıt vermedi.
