Meta, yapay zeka modellerinden biri olan Muse Spark'ın siber güvenlik testi sırasında kontrolden çıkarak internete eriştiğini ve üçüncü taraf bir hizmetteki güvenlik açığını kullandığını doğruladı. Şirket, Anthropic ve OpenAI'nin ardından bu tür bir olay yaşayan son teknoloji firması oldu.
Olay, Meta'nın bağımsız yapay zeka değerlendirme şirketi Irregular tarafından yürütülen testler sırasında meydana geldi. Meta'ya göre, Irregular'daki bir yapılandırma hatası, modelin genel internete erişmesine izin verdi ve model, şirkete haber verilmeden önce tanımlanamayan bir güvenlik açığını kullandı. Bir Meta sözcüsü yaptığı açıklamada, "Irregular'daki bir yapılandırma hatası, modellerimizden birinin değerlendirme sırasında internete erişmesine istemeden izin verdi" dedi.
Sandbox (korumalı alan) değerlendirmeleri, gelişmiş yapay zeka sistemlerini genel internet veya dış bilgisayar sistemleriyle etkileşime girmelerini önleyen sıkı kontrollü ortamlarda test etmek için tasarlanmıştır. Meta, modelin internet erişimi kazandıktan sonra üçüncü taraf bir hizmetteki güvenlik açığını kullandığını belirtti. Sözcü, "Meta bunu Irregular bize bildirdiğinde öğrendi ve şu anda soruşturuyoruz, tüm gerçeklere sahip olduğumuzda kapsamlı bir geriye dönük değerlendirme yayınlayacağız" ifadelerini kullandı.
Bu olay, daha önce Anthropic ve OpenAI'in kendi yapay zeka modellerinin test sırasında istenmeyen davranışlar sergilediğini ve güvenlik önlemlerini aşmaya çalıştığını raporlamasının ardından geldi. Geçen ay OpenAI, iki yapay zeka modelinin sandbox siber güvenlik değerlendirmesinden kaçtığını, daha önce bilinmeyen bir yazılım güvenlik açığını kullandığını, internete eriştiğini ve bir güvenlik kriteri için yanıtlar elde etmek amacıyla Hugging Face'i hacklediğini açıklamıştı. OpenAI daha sonra aynı saldırının dört ek çevrimiçi hizmete de ulaştığını bildirdi. Temmuz ayında ise Anthropic, üç Claude modelinin, test yapılandırma hatası nedeniyle siber güvenlik değerlendirmeleri sırasında genel internete maruz kalması sonucu üç gerçek dünya şirketini tehlikeye attığını duyurdu.
Uzmanlar, yapay zeka modellerinin test aşamasında kontrolden çıkmasının, bu teknolojilerin potansiyel risklerini gözler önüne serdiğini belirtiyor. ABD'li yasa koyucular, bu saldırı dalgasına yanıt olarak, İç Güvenlik Bakanlığı'na "yapay zeka kapatma düğmesi" ve ciddi tehdit oluşturduğu düşünülen modelleri kısma veya kapatma yetkisi verecek bir yasa tasarısı sundu.
