Bulaşık makineleri, fırınlar, robot süpürgeler, çim biçme makineleri, güvenlik kameraları ve televizyonlardan oluşan akıllı cihaz orduları interneti ele geçirmek için mi komplo kuruyor? Hayır. Ama yakında farkında olmadan kendi kendini çoğaltan yapay zekâ modellerine ev sahipliği yapabilir ve cihazdan cihaza yayılıp kontrol altına alınması son derece zor hale gelebilir.
Bu, yapay zekâ solucanlarının rahatsız edici dünyası. Kimine göre ev aletleri arasında kontrolsüz yayılan modellerin ortaya çıkması yakın bir siber güvenlik riski, kimine göre ise yapay zekâ şirketlerinin yaydığı felaket tellallığı. Bu hafta yayımlanan bir blog yazısında Anthropic, küçük yapay zekâ modellerinin böyle bir yeteneğe “aylar uzakta” olduğunu uyarıyor. Deneyler bu iddiayı destekleyecek bazı kanıtlar sunuyor ancak araştırmacıların gösterdiği ile öngördükleri tehdit arasında büyük bir boşluk var. The Verge’e konuşan uzmanlar, bilgisayar solucanlarının ve kendi kendini çoğaltan yapay zekâ korkularının yeni olmadığını, son gelişmelerin uyarıları ciddiye alma nedenleri olduğunu söylüyor.
Kendi kendini çoğaltan makineler uzun süredir yapay zekâ güvenliği araştırmacılarını rahatsız ediyor. İnsan kontrolünün ötesine geçip kapatılması zor, hatta imkânsız sistemlerin yayılması tehlikesini gündeme getiriyor. Gelişmekte olan yapay zekâya dair pek çok korkuda olduğu gibi ilgi büyük ölçüde OpenAI’ın Astra’sı ya da Anthropic’in Mythos’u gibi giderek daha güçlü öncü modellere odaklandı. Ancak bunların boyutu önemli bir sınırlayıcı faktör: Çok büyükler. Eğitim sırasında öğrenilen değerler olan parametreler bakımından trilyonları barındırabilen öncü modeller, büyük hesaplama kaynakları gerektiriyor ve bu da onları büyük ölçüde veri merkezleriyle sınırlıyor. Orada daha kolay izlenebiliyorlar ve prensipte kapatılabiliyorlar.
Daha küçük modeller ise farklı bir sorun yaratıyor. Hızla gelişiyorlar, tüketici sınıfı donanımda çalışabiliyor ve çoğu ücretsiz indirilebiliyor. Anthropic araştırmacıları, bir modelin daha küçük, daha az güçlü cihazlardan oluşan bir ağda çalışıp çalışamayacağını merak etti. Google’ın 26 milyar parametreli Gemma 4 modelini tek başına çalıştıracak kadar güçlü olmayan 15 adet Android akıllı TV kutusuna böldüler ve çalıştırdılar. Çalıştı, ama çok yavaş.
Bir modelin ev cihazları üzerinden çalışabileceğini gösterdikten sonra araştırmacılar, yapay zekânın böyle bir ortamda kendi kendini çoğaltmak için gerekli adımları atıp atamayacağını görmek istedi. Android cihazlar gibi davranacak şekilde tasarlanmış simüle edilmiş bir bilgisayar ağı kurdular ve ardından yapay zekâ destekli bir “solucan”ı serbest bıraktılar. Solucan, otomatik olarak çoğalan ve ağlar arasında yayılan bir kötü amaçlı yazılım türü. Görevi yeni makineleri bulmak, yapay zekâ modelini kopyalayıp her birinde çalıştırmaktı. Saldırıyı koordine eden model ile yayılan modelin farklı olduğuna dikkat etmek gerekiyor; yayılan model Meta’nın 8 milyar parametreli Llama 3.1-8B’siydi ve çok daha küçüktü.
Test edilen en sofistike model olan Çinli Z.ai’den GLM-5.2, tüm ağa yayılmayı başardı; daha küçük modeller ise tek tek adımları başarıyla gerçekleştirdi. Anthropic araştırmacıları, modellerin gelişme hızına bakarak küçük modellerin yıl sonuna kadar GLM-5.2’nin yeteneklerine eşit olacağını öngörüyor.
“Deneylerimizin ötesine giden bir tahmin olarak, insan kontrolü altında olmayan bazıları da dahil olmak üzere her türlü donanımda çalışan ajanlarla dolu bir gelecek bekliyoruz” diye yazdılar. Henüz “tam bir kötü niyetli çoğaltıcı” göstermediklerini ve bunun neye benzeyebileceğini bilmediklerini kabul ettiler; “yavaş, dağıtık ‘dijital balçık küfü’” ya da “bir sürü meyve sineği” önerdiler. Ancak bulgularının “yapay zekâ solucanları için yaşam belirtileri” gösterdiğini söylediler ve çoğaltıcı bir sistemin yayılmak için kullanabileceği pek çok cihazda daha güçlü güvenlik çağrısında bulundular.
“Böyle çoğaltıcıların yayılmasını zorlaştırmak için sistemlerimizi sağlamlaştırmayı hedeflemeliyiz, ama aynı zamanda burada kalmaya devam edecekleri bir dünyayla başa çıkmaya da hazırlanmalıyız” diye yazdılar. Önemli bir not olarak Anthropic bu testlerde kendi modellerini kullanmadı ve açık alternatiflerin kapalı sistemlere kıyasla “daha fazla risk” taşıdığını defalarca savundu.
Uyarı, The Verge’in daha önceki kapsamına okuyucuların tepkileri de dahil olmak üzere tanıdık PR havası ve yapay zekâ felaket tellallığı suçlamalarını yeniden alevlendirdi. Sonuçta ucuz TV kutularının üzerinde yavaş çalışan bir yapay zekâyı göstermek ile ev cihazları arasında yayılan kendi kendini çoğaltan bir yapay zekâ solucanının ortaya çıkması arasında kayda değer bir uçurum var. Bir şirketin motivasyonunu sorgulamak elbette değerli, ancak kasıtlı korku yayma iddialarını özellikle Anthropic’in uzun süredir yapay zekâ güvenliği konusunda endişelerini dile getirmesi nedeniyle doğrulamak zor. Anthropic, kendi kendini çoğaltan yapay zekâ tehdidini araştıran ya da bağlı cihazlarda daha iyi güvenlik çağrısı yapan tek kurum da değil.
Bu yılın başlarında Kaliforniya merkezli yapay zekâ güvenliği araştırma firması Palisade Research, yapay zekâ modellerinin kendilerini özerk olarak başka makinelerin üzerine kopyalayabildiğini gösterdi. Palisade’in icra direktörü Jeffrey Ladish, The Verge’e “Burada yeni olan, bu modellerin parametre sayısı bakımından kendi kendini çoğaltma yeteneğine sahip olduğu daha önceki modellere göre çok daha küçük olması” dedi. Anthropic’in çalışması bunu bir adım daha ileri götürerek bir yapay zekânın birden fazla düşük güçlü cihazda çalışabileceğini gösteriyor. Ladish, “Bu büyük modeller için de geçerli olacak” diyerek öncü modellerin bile sonunda MacBook’larda bulunanlar gibi tüketici çiplerinden oluşan büyük ağlarda çalışabilmesini öngördü.
Bilgisayar solucanları yeni değil. Onlarca yıldır makineleri enfekte ediyorlar. Ancak yapay zekâ onları daha akıllı, daha uyumlu ve her türlü engeli aşmak için daha donanımlı hale getirebilir. Ladish, daha küçük modellerin bile özerk siber saldırıları gerçekleştirmekte giderek daha iyi hale geldiğini kaydetti. “Yapay zekâ destekli bilgisayar solucanları tehdidinin gerçekçi olduğu” daha önce de gösterilmişti, solucanları incelemiş olan Toronto Üniversitesi profesörü Nicolas Papernot, The Verge’e söyledi.
Bütün olarak Anthropic’in gösterdiği yetenekler, siber saldırılarda hedef alınacak cihaz yelpazesini dramatik biçimde genişletebilir. Papernot’a göre “Daha önce insan saldırganların sınırlı kaynakları ve zamanı nedeniyle hedef olmayan cihazlar, artık içerdikleri veriler için değil, daha değerli hedeflere saldırmak için fırlatma rampası olarak kullanılmak üzere hedef haline gelebilir.” Ve hedef sıkıntısı yok: İnternet kötü güvence altına alınmış akıllı cihazlarla dolu.
Papernot, yapay zekâyı insanileştirmeye karşı uyardı, ancak yapay zekâ destekli bilgisayar solucanları tehdidinin “somut” olduğunu ve özellikle hastaneler ve elektrik şebekeleri gibi kritik altyapının güvence altına alınması söz konusu olduğunda “acil eylem” gerektirdiğini söyledi.
“Her türlü cihazın güvence altına alınması için kitlesel bir çaba gösterilmezse, yapay zekâ solucanlarının kolonileşeceği verimli zeminler olması oldukça olası” diyen Ladish, “12 ay içinde vahşi doğada bunların ilk örneklerini göreceğimizi bekliyorum” dedi.
