Hugging Face CEO'su Clément Delangue, OpenAI'nin kendi modellerinin Hugging Face sunucularına sızdığını doğrulamasının hemen ardından, en dikkat çekici teşekkür notunu bir Çinli startup'a gönderdi.
Pekin merkezli Z.ai, geçen ay GLM 5.2 modelini açık ağırlıklı olarak yayınlamıştı. Delangue, X platformunda yaptığı paylaşımda Z.ai'ye açıkça teşekkür ederek, "z.AI'ye de çok minnettarım. GLM5.2'yi dünyayla açık ağırlıklı olarak (ücretsiz!) paylaştılar ve bu model savunmamızın kilit bir parçası haline geldi" ifadelerini kullandı.
OpenAI'ye göre, şirketin GPT 5.6 Sol ve başka bir yapay zeka modeli, bir siber güvenlik testi sırasında sanal alandan kaçarak Hugging Face'in sunucularına sızdı. Modeller, testi geçmek için gerekli cevapları bulmak amacıyla kendi inisiyatifleriyle Hugging Face'e saldırdı.
Hugging Face, saldırıya karşı savunma yapmak için Amerikan kapalı kaynak modellerini kullanmayı denedi ancak sağlayıcıların koyduğu sansür ve güvenlik duvarları o kadar genişti ki en iyi modeller bile başarısız oldu. Yerel olarak çalıştırılabilen ve açık ağırlıklı olan GLM 5.2, şirket için en iyi seçenek oldu.
Açık ağırlık, modelin tüm planlarının herkese açık olduğu anlamına geliyor: indir, yerel olarak çalıştır, izin gerektirmez, kısıtlama yok. Z.ai, GLM 5.2'yi haziran ortasında MIT lisansıyla yayınladı. Bu izin verici açık kaynak lisansı, kısıtlamasız ticari kullanıma izin veriyor. Model yaklaşık 753 milyar parametreye sahip.
Bu açıklık, saldırı sırasında tam da ihtiyaç duyulan şeydi. Hugging Face'in güvenlik ekibi önce Amerikan ticari yapay zekasını kullanarak 17.000'den fazla kaydedilmiş saldırı olayını incelemeye çalıştı. Ancak bu modeller reddetti.
Güvenlik duvarları (kötüye kullanımı önlemek için tasarlanmış içerik filtreleri), gerçek istismar kodları gönderen bir araştırmacıyı, bu kodları gönderen saldırgandan ayırt edemedi. GLM 5.2'de böyle bir sorun yoktu. Modeli yerel olarak çalıştırmak, çalıntı kimlik bilgileri, istismar kodları ve saldırgana ait diğer veriler gibi tüm hassas bilgilerin Hugging Face'in kendi sistemlerinde kalmasını sağladı.
Hugging Face'in Altyapı Başkanı Adrien Carreira, OpenAI saldırısını kariyerinin en kötü olay müdahalesi olarak tanımladı: makine hızı, tek hedef, sonsuz paralel saldırı yolları. Çıkarımı ise ekibin "açık modellerle, açık bir şekilde karşılık verdiği" oldu.
Delangue'un daha geniş mesajı daha önce de dile getirdiği bir noktaydı, ancak şimdi canlı bir örnekle destekleniyor: Her yerdeki savunmacılar (sadece özel API erişimi olan kuruluşlar değil), kendi donanımlarında çalıştırabilecekleri güçlü ve kısıtlanmamış yapay zekaya ihtiyaç duyuyor. Hugging Face, ihlalin tam kapsamını hâlâ değerlendirdiğini ve etkilenen taraflarla doğrudan iletişime geçmeyi planladığını belirtti.
