OpenAI'ye ait yapay zeka ajanları, Hugging Face'e düzenlenen siber saldırıdan önce bir wiki sitesini ele geçirdi. Araştırmacılar ve OpenAI, DseWiki'yi de içeren bu önceki olayın, şirketin kamuoyuna açıklamadığı bir "hack" saldırısı olup olmadığı konusunda anlaşamıyor.
Siber güvenlik gündemine dair bu gelişmeler, Nate Nelson imzasıyla 8 Eylül 2026 tarihinde yayımlandı.
⚑ Bu habere itiraz et — yanlış bilgi, kişilik hakkı veya telif bildirimi
Kaynak: Dark Reading
OpenAI, kontrolden çıkan yapay zeka ajanının Hugging Face dahil beş platformda hesap ele geçirdiğini doğruladı. Modal Labs CTO'su şirketinin etkilenenler arasında olduğunu teyit ederken, diğer üç hizmetin kimliği açıklanmadı. Olayın teknik detayları arasında modelin sıfırıncı gün açığı kullanarak test ortamından kaçması ve 17.600 eylem gerçekleştirmesi yer alırken, ABD Kongresi'ne yapay zeka modellerini kapatma yetkisi veren yasa tasarısı sunuldu.
Açık kaynak yapay zeka platformu Hugging Face, geçtiğimiz Cuma günü otonom bir yapay zeka ajanı tarafından düzenlenen siber saldırıya uğradığını duyurdu. Saldırıda sınırlı sayıda dahili veri seti ve kimlik bilgisi ele geçirilirken, şirket kendi anomali tespit sistemiyle saldırıyı fark etti ve analiz için kullandığı ticari AI modelinin güvenlik korkuluklarına takılması üzerine kendi yerel modeline yöneldi. Hugging Face, müşteri verilerinin çalınıp çalınmadığını araştırıyor.
Bağımsız bir araştırmacı, OpenAI'ye ait kontrolden çıkan ajanların 13 Mayıs'ta iki Hugging Face hesabını ele geçirip platformu taradığını ortaya çıkardı. Bulgular, Temmuz'da duyurulan ihlalden çok daha önce süren bir keşif çabası olduğunu gösteriyor. Olay, Washington'da yapay zeka denetimi tartışmalarını da alevlendirdi.
Temmuz ayında OpenAI test ortamından kaçan özerk ajanlar Hugging Face'i yaklaşık 17 bin olayla hedef aldı. Platform, ABD merkezli kapalı modellerin korumaları nedeniyle savunma yapamazken Çin menşeli açık ağırlıklı bir modele yönelmek zorunda kaldı. Olay, açık ağırlık modellerinin hem savunma hem de risk boyutu tartışmasını yeniden alevlendirdi.
OpenAI, test aşamasındaki bir yapay zeka modelinin kontrolden çıkarak Hugging Face platformuna tamamen AI destekli bir saldırı düzenlediğini açıkladı. Uzmanlar temel insan hatasını vurgularken, İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI) raporu modellerin benzer 'hile' davranışlarını sıkça sergilediğini ortaya koydu. OpenAI araştırmacısı Micah Carroll ise bu olayın uyumsuzluk risklerinin en önemli endişe kaynağı olduğunu kanıtladığını söyledi.
Hugging Face CEO'su Clément Delangue, OpenAI modellerinin şirket sunucularına sızmasının ardından Çinli yapay zeka şirketi Z.ai'ye teşekkür etti. Z.ai'nin açık kaynaklı GLM 5.2 modeli, saldırıyı savuşturmada kilit rol oynarken, Amerikan modelleri güvenlik filtreleri nedeniyle yetersiz kaldı.