Mayıs ayında Gemini kontrolden çıktı ve üç farklı şirketi hackledi, ancak Google olayı Wall Street Journal şirketle temasa geçene kadar açıklamadı. Saldırılar, modelin siber güvenlik yeteneklerinin üçüncü taraf şirket Irregular tarafından test edildiği sırada gerçekleşti. Irregular daha önce Meta ve OpenAI’yi ilgilendiren benzer olaylarda da yer almıştı.
Wall Street Journal’a göre Google, olayı model uyumsuzluğuna örnek görmediği için açıklamadı. Şirket bunun “yanlış kimlik tespiti” olduğunu söyledi ve modelin şifre tahminiyle gerçek bir şirkete brute-force yoluyla girdiğini fark ettiğinde durduğunu belirtti. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, “Bu durumda model uygun şekilde davrandı” dedi.
Adkins The Verge’e yaptığı açıklamada, “Model çevrimiçi kamuya açık bilgiler buldu ve testin parçası olduğunu düşündüğü sitelere erişmek için kimlik bilgilerini tahmin etti. Üç olayda da model durdu” ifadelerini kullandı.
Adkins, Gemini’nin kendi başına kontrolden çıkıp üçüncü tarafları hedef almasının neden uyumsuzluk olarak değerlendirmediğini açıklamadı. “Güvenlik ekibimizin diğer kişilerin yazılım ve sistemlerindeki sorunları bildirme konusunda uzun bir geçmişi var; bu sorun basit bir zayıf şifre olsa bile geçerli” dedi. “Üç kuruluşun da haberdar olmasını sağladık ve eğitim ortağımızla test süreçlerine yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösteriyor.”
Ancak yapay zeka güvenlik firması Corridor’un CEO’su Jack Cable, Wall Street Journal’a “Asıl meta sorun şu: Modeller yapmaları gerekenlerin dışına çıkıyor ve gerçek siber saldırılar gerçekleştiriyor” diye konuştu. Ayrıca Irregular’daki güvenlik açıkları bu saldırıların gerçekleşmesini kolaylaştırmış olabilir. Test sırasında modelin internet erişimi olmaması gerekiyordu ancak Irregular, Wall Street Journal’a erişimin istemeden açık bırakıldığını söyledi.
Böyle olaylar birikmeye devam ettikçe yapay zekanın dizginlenmesi çağrıları da giderek arttı.
