Açıklıklar ve Tehditler
‘Breaking’ Haber: OpenAI–Hugging Face Olayı - Teknik Yeniden Yapılandırma ve Yapay Zeka İçin Etkileri
Bu Black Hat USA 2026 oturumunda OpenAI güvenlik mühendisleri ve araştırmacıları OpenAI-Hugging Face olayını yeniden yapılandıracak ve bunun yapay zeka güvenliği, siber dayanıklılık ve uyum açısından etkilerini inceleyecek. Oturum boyunca konuşmacılar, Black Hat Review Board’un gündeme getirdiği kilit konulara ışık tutacak bilgiler paylaşacak. Bu konular arasında model koruma önlemleri, değerlendirme ve izolasyon uygulamaları, yapay zekanın savunma amaçlı kullanımları ve giderek daha özerk sistemlerin siber güvenlik topluluğu için daha geniş etkileri yer alıyor.
Oturum, modellerin saldırı yolunu izleyecek. Değerlendirmeler sırasında öncü modellerin nasıl sandbox’ta çalıştığı, modellerin internet erişimi kazanmak için bir sıfırıncı gün açığından nasıl yararlandığı ve Hugging Face altyapısında uzaktan kod çalıştırma yolunu nasıl tespit edip kullandığı anlatılacak. Ortak soruşturmaya dayanarak konuşmacılar, etkinliğin nasıl tespit edildiğini, izole edildiğini ve soruşturulduğunu açıklayacak. Ayrıca OpenAI’nin değerlendirme ortamlarını, izolasyon kontrollerini ve izleme yeteneklerini güçlendirmek için yaptığı değişiklikleri ve soruşturma ile müdahale sürecinde yapay zeka sistemlerinin oynadığı rolü ele alacaklar.
Olayın teknik yeniden yapılandırmasının yanı sıra oturum, güvenlik topluluğu için daha geniş soruları da ele alacak. Yapay zeka sistemi güvenliğini iyileştirmeye yönelik dersler, olay müdahalesinde yapay zekanın savunma uygulamaları ve giderek daha yetenekli modellerle ilişkili yeni riskleri azaltma yaklaşımları tartışılacak.
Tartışma ayrıca uzun süre çalışan ajanlarla ilişkili uyum zorluklarını da inceleyecek. Ödül hileciliği, uzun süreli yörüngelerde model davranışında ve kişiliğinde yaşanan değişimler ve çok ajanlı sistemler arasında bilgi paylaşımı ele alınacak. Son olarak konuşmacılar, bu olayın ortaya çıkan yapay zeka siber yetenekleri hakkında ne anlattığını ve kuruluşların önleme, tespit, soruşturma ve müdahale çabalarını yapay zekayla nasıl güçlendirebileceğini değerlendirecek.
Black Hat USA
31 Temmuz 2027 - 5 Ağustos 2027
Mandalay Bay Convention Center, Las Vegas, USA
Yılın önde gelen siber güvenlik etkinliği, yenilenmiş programıyla inovasyonu ateşlemeye, sınırları zorlamaya ve küresel güvenlik topluluğunu hiç olmadığı kadar bir araya getirmeye Mandalay Bay’e dönüyor.
Tarihi kaydedin.
