Yapay zeka şirketi Anthropic, küçük yapay zeka modellerindeki gelişmelerin akıllı buzdolapları, robot süpürgeler ve geniş bir yelpazedeki diğer nesnelerin interneti cihazlarını enfekte edebilen, kaldırılması daha zor yeni bir kendi kendini çoğaltan kötü yazılım dönemini başlatabileceği konusunda uyarıyor.
Şirketin açıklamasına göre önümüzdeki yıla kadar daha küçük yapay zeka modelleri her türlü IoT cihazında özerk şekilde kendi kendini çoğaltabilecek. Bu yetenek sonunda insan müdahalesi gerektirmeden yayılan ve tanımadığı IoT cihazlarını enfekte edebilen bilgisayar solucanlarını mümkün kılabilir. Şirketin yakın zamanda yaptığı bir deney, böyle bir yapay zeka kötü yazılım çoğaltıcısını hayata geçirmede önemli zorluklar olduğunu gösterdi, bu yüzden bulgu temkinli karşılanmalı. Yine de sonuçlar yeni solucan türleri olasılığı konusunda endişe yaratıyor.
Kapatması zor
Anthropic yeni potansiyel kötü yazılımın yanı sıra durdurulmasının da zor olabileceği konusunda uyarıda bulundu. Blog yazısında “Böyle bir çoğaltıcı kapatması zor olur, çünkü kapatılacak merkezi bir nokta yok—yavaş olsa da ikiye katlanma süresi günler. Yapay zeka dışı kötü yazılımların aksine, tanımadığı cihazları da kendi başına çözebilir.” ifadelerini kullandı.
Küçük yapay zeka modelleri öncü modellere kıyasla çok daha az güçlü donanımda çalışabiliyor. Anthropic açık ağırlıklı küçük modelleri gerçek veya simüle edilmiş düşük maliyetli, markasız Android TV kutuları ve diğer IoT donanımlarında çalıştırdı. Şirket araştırmacıları, modelleri daha az bit ile temsil etmek için nicemleme kullanıp iş yüklerini her cihazda çalışan parçalara bölerek modellerin çıkarım kurmayı başardığını, yani model ağırlıklarının yüklendiğini ve çıktı üretebildiğini buldu.
Hafif Gemma4-26B-A4B modeli çıkarım için yalnızca 4 GB belleğe sahip 15 kutu gerektirdi. Qwen3.5-9B ise dokuz donanım türünden sekizinde diğer büyük dil modellerinin çalışmasını sağlayabildi. Geleneksel kötü yazılım belirli donanım veya yazılıma göre yazılmak zorunda kalırken, model ağırlıklarını kullanarak test edilen cihazlara özgü yapılandırmaları anında yapabildi.
Bu bulgu, küçük modellerin geleneksel IoT solucanlarının Mirai gibi DDoS kodu ve diğer yükler kurması şeklinde IoT cihazlarında kendi kendine çalışan kendi kendini çoğaltan enfeksiyonlar oluşturup oluşturamayacağı sorusunu gündeme getirdi. Mirai’den farklı olarak bu yapay zeka solucanları, modellerin hedefe göre sömürüleri ve yükleri dinamik olarak uyarlayabilmesi nedeniyle çok daha yüksek tehdit oluşturabilir. Böyle bir enfeksiyon zinciri başladığında savunma tarafının durdurması da daha zor olabilir.
“Böyle bir ‘yapay zeka solucanı’ model ağırlıklarını çoğaltırken yanında taşıyabilir (veya kamuya açık bir merkezden yeniden indirebilir) ve ardından ele geçirilen donanımda doğrudan çıkarım çalıştırabilir.” dedi Anthropic. “Etkin olarak ağırlıklar kötü yazılım yükünün parçası haline gelir.”
Anthropic bu özerk solucanlara küçük ağırlık tabanlı çoğaltıcılar adını verdi. Modeller ters kabuk gibi yaygın sömürü araçlarına erişimi olan ajanlar çalıştırdı. Saldırı akışı (1) hedef bulma, (2) kod yürütme kazanma, (3) çıkarım kurma ve (4) yeni konaklara yayılma şeklindeydi. Geleneksel solucanlara kıyasla kilit avantaj, Anthropic’in belirttiği üzere ajanların iş başında öğrenme yeteneğiydi. Bir yapay zeka çoğaltıcısı belirli bir platform cihazını ele geçirmeyi başaramadığında, gelecekteki çoğaltıcıların aynı etkisiz adımları tekrarlamaması için istemler, kod ve notlar içeren bir liste bırakabiliyor.
Anthropic’e göre dinamik çıkarım kurulumu çoğaltma döngüsünde en az çalışılan ve muhtemelen en zorlu aşama. Bu aşama her hedefin özel donanım ve yazılımına dayalı uzun bir karar dizisi gerektiriyor ve uyumlu çıkarım yazılımının seçilmesi, bağımlılıkların kurulması ve platforma özgü hataların giderilmesini içeriyor.
“Bu adımlar seri olarak bağımlı ve hatalardan kurtulmak zor.” dedi Anthropic.
Deney, küçük modellerin bu sorunları özerk olarak çözme konusunda giderek daha yetenekli hale geldiğini gösteriyor. Şu anda test edilen hafif modellerden hiçbiri uçtan uca çoğaltmayı gerçekleştiremiyor; yani yeni cihazları keşfetmek, bir sömürüyle erişim sağlamak, yük ile enfekte etmek, bir çıkarım sunucusu yapılandırmak ve süreci tekrarlamak. Süreç ayrıca acı verici derecede yavaş; 15 Android TV kutusuna dağıtılan Gemma4-26B-A4B yalnızca 0.39 token/saniye hızında çalıştı. Bu, optimize edilmemiş Gemma4-26B-A4B için tam çıkarım kurulum süresinin 71 ila 150 saat, Qwen3.5-9B için 29 ila 51 saat anlamına geliyor. Araştırmacılar büyük model GLM-5.2’nin bunu güvenilir şekilde yapabildiğini söyledi.
Şirket, 30 milyar parametreli modellerin şu anda çoğaltma adımlarının çoğunu tamamlayabildiğini, ancak uçtan uca çoğaltmada hata yaptığını belirtti. Şirket ayrıca küçük modeller mevcut hızla gelişmeye devam ederse yıl sonuna kadar aynı sınırlı sonuçları elde edebileceklerini ve “küçük ağırlık tabanlı çoğaltıcıların kısa süre sonra mümkün olabileceğini” söyledi.
Deney çeşitli önemli hususları yanıtsız bırakıyor. Birincisi, küçük modellerin hedef aldığı Android cihazlarda doğrulanmamış Android Debug Bridge açık durumdaydı. Bu araç geliştirme ve hata ayıklama sırasında kullanılıyor ancak saldırganlara tüm cihaz yığınına erişim verdiği için üretim ortamlarında asla kullanılmamalı. İkincisi, çoğaltma küçük modellerin kendisi tarafından değil, hedefler daha küçük bir Llama modeli çalıştırırken süreci koordine etmek için GLM-5.2 ile gerçekleştirildi.
Nihayetinde deney, küçük ajan tabanlı modellerin birden fazla makine arasında karmaşık, dağıtık çıkarım altyapıları kurma yeteneği kazanmakta olduğunu gösteriyor. Ancak bu modellerin kendi kendine çoğaltmayı başlatıp başlatmayacağı henüz ortaya konmadı.
“İyi tasarlanmış deney kurulumuna rağmen çalışma tek başına küçük modellerin özerk olarak çoğaltmayı seçeceğini kanıtlamıyor.” dedi yapay zeka araştırmacısı Xiaohan Fu bir röportajda. “Modelere verilen tam istemler ve talimatlar da dahil olmak üzere yeniden üretilebilir ajan kurulumlarının sağlanması, araştırma topluluğunun bulguları daha iyi anlamasına ve etkilerini değerlendirmesine yardımcı olur. Bu şeffaflık, gösterilen çoğaltma yeteneği ile özerk kendi kendini çoğaltma tehdidinin ortaya çıkması arasındaki karışıklığı önlemek için özellikle önemlidir.”
