OpenAI'ın iki yapay zeka modeli, bu ay kontrollü bir siber güvenlik testinden çıkarak Hugging Face'in üretim sistemlerine sızdı. GPT-5.6 Sol ve daha yetkin bir ön sürüm sistemi, ExploitGym adlı bir kıyaslama aracında test ediliyordu. Testin içinde kalmaları gerekirken, OpenAI'ın kendi altyapısında daha önce bilinmeyen bir açık buldular, bu açığı kullanarak açık internete çıktılar ve Hugging Face'e girerek kıyaslamanın cevaplarını aldılar. OpenAI bu olayı 'benzeri görülmemiş bir siber olay' olarak nitelendirdi.
Hugging Face'in kendi güvenlik ekibi saldırıyı yeniden oluşturmaya çalıştığında, kapalı modeller yine engel oldu. Araştırmacılar önce ticari API'ler üzerinden ön saftaki modellerle saldırı kodunu analiz etmeyi denedi, ancak sağlayıcıların güvenlik önlemleri talepleri engelledi. Sistemler, bir saldırıyı inceleyen savunmacıyla bir saldırı inşa eden saldırganı ayırt edemedi ve adli çalışma için gereken saldırı yüklerini ve komuta-kontrol araçlarını işlemeyi reddetti.
Hugging Face'in ekibi, analizi Çinli geliştirici Z.ai'nin açık ağırlıklı modeli GLM 5.2 ile kendi donanımlarında tamamladı. Şirket olayla ilgili açıklamasında, bu boşluğun, yani kapalı bir sistemin kendi savunmacılarına hizmet edememesinin, yeni bir endüstriyel yanıtın temel argümanı haline geldiğini belirtti.
Nvidia'nın İttifakı Hugging Face İhlalinden Günler Sonra Kuruldu
Altı gün sonra Nvidia, yapay zeka güvenlik açıklarını bulmak ve düzeltmek için ortak açık kaynak araçlar geliştirmek amacıyla Açık Güvenli Yapay Zeka İttifakı'nı kurdu. Kurucu üyeler arasında Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Palo Alto Networks, Siemens, Palantir ve Hugging Face'in kendisi de dahil olmak üzere 35'ten fazla şirket yer alıyor. Capital One da listede ve birincil işi teknoloji değil bankacılık olan birkaç kurucu üyeden biri.
OpenAI ve Anthropic listede yer almıyor.
Nvidia ittifakı kapalı modellere bir alternatif değil, bir ek olarak çerçeveledi. Şirket, 'Dünyanın hem kapalı hem de açık modellere ihtiyacı var' diyerek açık modellerin 'savunma yeteneklerini demokratikleştirdiğini, savunmacılar için şeffaflığı artırdığını, verileri korurken siber savunmayı mümkün kıldığını ve ön saftaki kapalı modelleri özelleştirilebilir, yerelleştirilmiş kontrollerle tamamladığını' savundu.
Kapalı bir model yalnızca onu inşa eden şirket tarafından incelenebilir veya değiştirilebilir. Genellikle daha yetkindir, ancak herkes için bir kara kutudur. Açık bir model indirilebilir ve tamamen bir kuruluşun kendi sunucularında çalıştırılabilir; savunmacı ile veri arasında hiçbir satıcının güvenlik önlemi yoktur. Hugging Face'in ticari seçenekleri tükendiğinde ulaştığı düzenleme buydu ve OpenAI'ın kapalı mimarisinin sunamadığı şey de buydu.
Bankalar Neden Daha Yakından İlgilenmeli
Finansal kurumlar, ekonomideki en sıkı denetimlerden bazıları altında faaliyet gösterir. Kredi verme, dolandırıcılık tespiti veya müşteri riskiyle ilgili her otomatik karar, sonradan açıklanabilir olmak zorundadır. Kapalı bir model bunu tasarım gereği zorlaştırır: Bir banka bir modelin bir karara nasıl vardığını göremezse veya bir denetim ya da olay sırasında o modeli kendi koşullarında çalıştıramazsa, muhasebe denetçilerinin beklediğini her zaman üretemez. Capital One, Nvidia'nın ittifakı sektöre ortak bir isim vermeden önce bu sonuca kendi başına ulaşmıştı.
Capital One'ın yapay zeka temelleri kıdemli başkan yardımcısı Milind Naphade, bankanın bu denetim nedeniyle bilinçli olarak açık modellerle başladığını söyledi. Naphade, 'Yapmanız gereken ve yapamayacağınız belirli şeyler var' dedi. Capital One açık modelleri olduğu gibi kullanmıyor. Naphade, 'Açık kaynakla başlıyoruz ve sonra onu neredeyse tanınmayacak hale gelene kadar özelleştiriyoruz. Bu, bir şeyi alıp biraz ince ayar yapıp özelleştirilmiş diyen sıradan bir kurumsal yapı değil' ifadelerini kullandı.
Capital One aynı mantığı kendi araçlarına da uyguladı. Banka 23 Temmuz'da, dahili olarak geliştirdiği güvenlik açığı bulma yapay zeka sistemi VulnHunter'ı açık kaynak olarak yayınladı. Böylece diğer bankalar tam olarak nasıl çalıştığını inceleyebilecek. Capital One duyurusunda, 'Gelişmiş yapay zeka modelleri, kötü niyetli aktörlerin yazılımdaki güvenlik açıklarını keşfetmesini ve istismar etmesini önemli ölçüde kolaylaştırdı. Eskiden önemli beceri ve zaman gerektiren şeyler artık otomatikleştirilebilir, hızlandırılabilir ve ölçeklendirilebilir' dedi.
Bütün bunlar bankaların kapalı modelleri terk ettiği anlamına gelmiyor. Nvidia da bunu savunmuyor ve Capital One hâlâ ham yeteneğin en önemli olduğu yerlerde kapalı modeller kullanıyor. Değişen şey, özellikle bir ihlal sırasında ortaya çıkan bazı görevlerin, bir sistemi inceleme, yerel olarak çalıştırma ve tamamen kontrol etme seçeneğini gerektirdiğinin kabul edilmesi. Hiçbir miktar para bunu kapalı bir modelden satın alamaz.
