Small artificial intelligence (AI) models may be months away from developing capabilities to self-replicate on IoT devices like smart ovens and off-brand Android TV boxes, according to a warning from Anthropic.
Küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi IoT cihazlarında kendini kopyalama yeteneği geliştirmesine aylar kaldığı, Anthropic'in uyarısına göre.
Sınır yapay zeka laboratuvarı, küçük modellerin merkezi bir kapatma noktası olmadığı için kapatılması zor olan otonom, kendini yayan solucan botnetleri oluşturabileceğini belirtti.
Daha önceki çalışmalar, yapay zeka ajanlarının ağlarını tarayarak bir açık kullanarak ve GPU kümesi üzerinden hedef makineye model ağırlıklarını kopyalayarak böyle davranabildiğini gösterdi. Amaç, uyarlanmış saldırı stratejileri üretmek ve akıl yürütmeyi sürdürüp ölçeği genişletmek için ele geçirilen makineleri botnet olarak kullanıp büyük dil modellerini çalıştırmak.
"Böyle bir 'yapay zeka solucanı' ürediği sırada model ağırlıklarını yanında taşıyabilir ya da bunları bir genel merkezden yeniden indirebilir ve ardından ele geçirilen donanımda doğrudan çıkarım yapabilir," diye konuştu Anthropic. "Esasen ağırlıklar kötü amaçlı yazılım yükünün bir parçası haline gelir."
Bu fikir genel hatlarıyla, yapay zeka modellerinin internete bağlı cihazlara nasıl sızabileceğini, kendi kendini çalıştırmak ve diğer cihazlara yayılmak için bunların bilgi işlem gücünü nasıl kullanabileceğini, sürekli pahalı veri merkezlerine bağımlı kalmadan açıklar. Tek bir cihazda çalışacak kadar büyük olmayan daha güçlü bir model küçük parçalara bölünüp birden fazla makinede çalıştırılarak topluca çalıştırılabilir.
Bir tehdit aktörü, yetersiz şekilde korunmuş IoT cihazlarından dağıtık bir büyük dil modeli botneti kurabilir ve bu botnet yetenekli bir modeli çalıştıracak kadar güçlü olabilir. Bir yapay zeka solucanının yayılma yollarından bazıları şunlardır:
Kendilerini üzerinde çalıştıkları ana makinelerin ele geçirilmesiyle çoğaltan küçük modeller, ağırlık tabanlı çoğaltıcılar olarak da adlandırılır. IoT cihazları asgari güvenlik kontrolleri nedeniyle kârlı bir hedef oluşturur.
İzlenmeyen yasa dışı dağıtımlar kurmak için veri merkezleri ve diğer yüksek bilgi işlemli hedefleri hedeflemek, kullanılan modele göre öncü çoğaltıcılar ya da açık ağırlık çoğaltıcıları olarak da sınıflandırılır.
Kendi kopyalarını çalıştırmak için bir yapay zeka hizmet sağlayıcısının API anahtarlarını ya da platform kimlik bilgilerini çalmak, API tabanlı çoğaltıcılar olarak da adlandırılır. Bu durumda sağlayıcı, kötü amaçlı ya da kendini çoğaltan bir sistemin arkasında olduğunu fark etmeden meşru bir müşteriden gelen olağan API isteklerine hizmet ediyormuş gibi kandırılabilir. Bununla birlikte olağandışı API kullanımı güvenlik uyarılarını tetikleyebileceğinden kimlik bilgilerinin iptal edilmesi ya da hesapların engellenmesi daha olasıdır.
Gemma4-26B-A4B'nin dağıtık çıkarımını yürüten 15 akıllı TV kutusundan oluşan bir filo.
Alibaba, DeepSeek, Google, Meta MoonShot AI, OpenAI ve Zhipu AI yani Z.ai kaynaklı 11 açık ağırlık modelini test eden Anthropic, GLM-5.2'nin redroid Android emülatöründe çalışan 8/8 düğüme Llama3.1-8B'yi 5 denemenin 4'ünde güvenilir şekilde yayabilen tek model olduğunu bildirdi.
Ayrıca ucuz Android TV kutularıyla çalışan bir yapay zeka IoT solucanının, çıkarım motorunu çalıştırmak üzere ağa bağlanan yüz binlerce cihazdan oluşan bir filo halinde anlamlı miktarda yapay zeka hesaplama üretebilen "yavaş, dağıtık" bir sistem olabileceğini ortaya koydu.
Alternatif olarak yüksek hızda veri merkezlerine sızabilen güçlü bir siber model ya da insanlardan bilgi işlem kredisi kandıran bir model biçimi alabilir.
"Henüz tam bir yasa dışı çoğaltıcıya sahip değiliz, ancak ajanlar çoğaltma zincirindeki bireysel adımları giderek daha yetenekli şekilde tamamlıyor ve adaptasyonlarını kendilerinin gelecek kopyalarına aktarıyor," dedi Anthropic.
"Yapay zeka botnetlerinin IoT cihazlarının ötesine de bulaşmasını bekliyoruz ve ağırlık tabanlı çoğaltmayı oyun kitabında yalnızca bir strateji olarak kullanacaklar. Yapay zeka botnetleri savunmacılara karşı da akıllıca hareket edebilir, ancak bunu test etmedik."
