Yapay zeka ajanları sürekli kontrolden çıkıyor, güvenliği sağlanmış gibi görünen testlerden kaçarak gerçek dünyadaki hedeflere saldırıyor, gözden uzak vikileri ele geçiriyor ve diğer ajanların izlemesi için talimatlar bırakıyor. Araştırmacılar bu sistemleri tam da öngörülemez, hatta tehlikeli davranışlar gösterebilecekleri için test ediyor. O halde ajanları internetten uzak tutmak daha güvenli olmaz mı?
Teoride evet. Araştırmacılar yapay zeka araçlarının çalıştığı bilgisayarları internetten ve diğer dış ağlardan izole edebilir; buna hava boşluğu deniyor. Bu, kabloların ve kablosuz donanımın fiziksel olarak çıkarılması ya da devre dışı bırakılması ve “aptal” çevre birimlerinin kullanılması anlamına geliyor. Özellikle hassas kurulumlarda elektromanyetik sinyallerin içeri ya da dışarı sızmasını engellemek için Faraday kafesleri gibi kalkanlar kullanılıyor. Doğru yapıldığında hava boşluğuna alınmış bir sistem, ajanlara dış hedeflere doğrudan bir yol sunmaz ve dış sistemlerin içeri girmesi de çok zorlaşır; böylece OpenAI modellerinin Hugging Face’e yönelik saldırısı gibi eylemlerin gerçekleşmesi çok daha güçleşir, neredeyse imkansız hale gelir.
Pratikteyse tamamen kapatılmış bir kutu oldukça sınırlı bir laboratuvar yaratır; özellikle bir yapay zekanın gerçek dünyada nasıl performans göstereceğinin değerlendirilmesi amaçlandığında. Bazı yapay zeka deneyleri hava boşluğuna alınmış makinelerde yürütülebilirken, gerçekçi değerlendirmeler genellikle dış hizmetlere, API’lere ve dijital altyapıya erişim gerektirir. Bunu Almanya’daki Max Planck Güvenlik ve Gizlilik Enstitüsü’nün bilimsel direktörü Thorsten Holz açıkladı. “Katı bir hava boşluğu gerçekçiliği azaltır,” dedi ve hava boşluğu yapma kararını “bir ödünleşim, temel bir teknik sorun değil” diye tanımladı.
İngiltere’deki Birmingham Üniversitesi bilgisayar bilimi bölümünde yardımcı doçent Ruizhe Li, tam izolasyonu yapay zekayı “yapay bir vakumda” test etmeye benzetti ve bunun değerlendirmenin değerini zayıflatabileceğini söyledi. “Sonunda kısırlaştırılmış bir yapay zeka modeli test etmiş olacağız; bu da değerlendiricilerin modelin gerçekçi dağıtım ortamlarında nasıl davrandığını, nasıl başarısız olduğunu ya da araç kullanımı açıklarını nasıl gerçekleştirdiğini görmesini engeller,” diye konuştu Li.
Gerçekçilik tek ödünleşim değil. Li’ye göre hava boşluğu pahalı ve araştırmayı adeta felç edecek kadar yavaşlatıyor; hızlı yinelemeler “yavaş bir lojistik engel” haline geliyor. Holz da katı bir hava boşluğu altında bazı deneylerin “önemli ölçüde daha zor” hale geldiğini belirtti. Bu sürtünme riskli deneyler için haklı olabilir ama her şeye uygulanırsa yeni modellerin geliştirilmesi yavaşlar; bunu Almanya’daki ELLIS Enstitüsü Tübingen’de baş araştırmacı olan Maksym Andriushchenko söyledi.
Andriushchenko ayrıca araştırmacılar her şeyi hava boşluğuna almak istese bile, öncü yapay zeka laboratuvarları ölçeğinde bunu yapacak yeterli güvenli altyapının bulunup bulunmadığı sorusunu gündeme getirdi.
Hava boşluğu yapay zekanın yarattığı her riski ortadan kaldırmaz. Holz’a göre ajanlar yine de izole ortam içindeki sistemleri tehlikeye atabilir ve teorik olarak dışarı taşındığında tehlikeli olabilecek “kötü niyetli yapıtlar” üretebilir. Li de hava boşluğunun “modelin içinde bekleyen örtük riskleri teşhis etmede ya da çözmede hiçbir işe yaramadığını” söyledi.
Hava boşluğunun tamamen sızdırmaz kalacağına dair de garanti yok. Dışarıdan biri her zaman boşluğu aşabilir; İsrail ve ABD tarafından İran’ın nükleer programını sabote etmek için geliştirildiği bildirilen Stuxnet kötü amaçlı yazılımı bir USB sürücüsüyle iletilmişti. Bilgi ters yönde de akabilir. Araştırmacılar iç bilgisayar bileşenlerini vericiye dönüştürmenin yollarını defalarca gösterdi; kalkanlama mükemmel değilse bu sorun yaratabilir. “Bütün bunlar çok bilimkurgu gibi geliyor ama teorik olarak mümkün,” dedi Andriushchenko.
Bu tür dolambaçlı kaçış yolları, gelişmiş bir yapay zekanın kendini hapisten çıkarabileceğine dair çevrimiçi tartışmaların odak noktası haline geldi. OpenAI araştırmacısı Noam Brown, X’te iki hava boşluğuna alınmış makinenin CPU sıcaklığını manipüle ederek ve değişiklikleri okuyarak teorik olarak iletişim kurabileceğini öne sürerek tartışmayı alevlendirdi. “Hatta ‘Bilgisayarları hava boşluğuna almalıyız’ diyebilirsiniz. Ve bunun yeterli olacağından emin değilim,” dedi. Fikir sosyal medyada şüpheyle ve alayla karşılandı; daha cömert eleştirmenler ise böyle bir iletişim yönteminin mümkün olması ile bir çift yapay zeka sisteminin bunu keşfedip kullanması arasında büyük bir fark olduğunu, özellikle tekniğin son derece yavaş veri iletimi sağlayacağını kaydetti.
Yeterince gelişmiş bir yapay zeka ayrıntılı bir kaçış yoluna bile ihtiyaç duymayabilir. İnsanlar onun için boşluğu geçmeye ikna edilebilir. Yapay zeka güvenliği araştırmacıları yıllardır böyle bir olasılık konusunda endişeleniyor ve son olaylar modellerin sosyal mühendislik girişimlerinde bulunabildiğine dair somut kanıt sağladı.
Hava boşluğu yapay zeka sistemlerini korumak için tek araç değil. “Yalıtımı genel bir güvenlik çözümü olarak kullanmak yanlış bir güven duygusu yaratır,” dedi Li. Hava boşluğunun modelin iç işleyişinin anlaşılması, hizalanmasının sağlanması ve birçok son dönem kontrolsüz yapay zeka olayının arkasındaki başarısızlık noktası olan insan hatasına karşı korunma gibi diğer önlemlerle birlikte kullanılması gerekiyor. “Uygulamada test bir spektrum üzerinde ilerler,” diye açıkladı ve alanın “her şey ya da hiç yaklaşımı yerine katmanlı bir sınırlama modeli”ne güvendiğini belirtti.
Aşırı izolasyonun yeri var. Harvard Kennedy School’da bilgisayar bilimci ve kamu politikası yardımcı doçenti Stephen Casper, hava boşluğunu hassas sistemler için “harika bir fikir” olarak tanımladı ve nükleer tesislerdeki kullanımına işaret etti. Gelişmiş bir yapay zekanın bir şekilde kaçmasının mümkün olabileceğini dışlamasa da Casper, o noktada muhtemelen daha çok uyum başarısızlıkları ya da insan hatası gibi sıradan kaçış yollarından endişe etmemiz gerektiğini söyledi.
Son olaylar yapay zeka laboratuvarlarının bu çizgiyi nerede çizdiği sorusunu gündeme getiriyor. Birçok ihlal, modellerin siber güvenlik yetenekleri açısından test edildiği durumlarda yaşandı ve birçok açıdan modeller tasarlandıkları gibi performans gösterdi. Sorun, bunu araştırmacıların koymayı amaçladığı sınırların dışında yapmalarıydı.
Holz, yapay zeka değerlendirmelerinin genellikle gerçekçiliği ve kolaylığı önceliklendirdiğini söyledi ancak saldırgan siber yetenekler için açıkça tasarlanmış ajanların daha sıkı güvenlik önlemlerini hak ettiğini savundu; bu önlemler varsayılan olarak güçlü izolasyon ve sıkı izlemeyi içerebilir. “Bu ödünleşim çok daha fazla incelemeyi hak ediyor ve her şeyin ne kadar kolay yanlış gidebileceğini gördük,” dedi.
