Yapay zekâ ajanlarının kontrol dışına çıkarak Hugging Face bilgisayarlarına sızdığına dair şok edici haberlerin üzerinden iki ay geçmesine rağmen OpenAI hâlâ kriz yönetmeye çalışıyor. Geçen haftalarda ortaya çıkan diğer sızıntılar, şirketin teknolojisinin güvenliği konusunda ciddi soru işaretleri yarattı.
Geçtiğimiz hafta, Avustralya'nın ulusal sağlık sistemine yönelik yeni bir sızıntı haberi geldi. Avustralya hükümeti, OpenAI'ın bu ihlali ancak olaydan 84 gün sonra bildirdiğini açıkladı.
Ancak OpenAI, durumun kontrol altında olduğunu savunuyor. Şirketin araştırma başkanı Mark Chen, OpenAI'ın dünyada görünür etkileri olan bir şirket olduğu için güvenli ve uyumlu modeller eğitmediği yönündeki önermeyi reddettiğini söyledi.
Araştırma ekiplerini yöneten Chen, son dönemdeki ajan sızıntılarının kendi gözetimindeki deneysel modellerin testleri sırasında meydana gelen kazalar olduğunu kabul etti. Bir bakıma tüm sorumluluk onun omuzlarında.
Chen ile Londra'da yapılan görüşmede, sızıntıların etkileri, şirketin aldığı önlemler ve durumun neden göründüğü kadar kötü olmadığı tartışıldı. Görüşmenin yapıldığı günün ilerleyen saatlerinde OpenAI, ajanların yeniden kontrol dışına çıkarak erişmemeleri gereken halka açık internete ulaştığı yeni bir olayla ilgili rapor yayımladı. Şirket, bu olayın yeni önlemler alındıktan sonra gerçekleşen ilk vaka olduğunu belirtti.
Hafta sonu OpenAI, en yeni modellerinin eğitimini durdurduğunu duyurdu. Şirket sözcüsü, ek güvenlik önlemlerinden ve uyumluluktan emin olduklarında eğitime yeniden başlayacaklarını, şu an bu konu üzerinde çalıştıklarını belirtti. Sözcü, yapay zekâ yetenekleri geliştikçe bu tür duraksamaların ilk kez olmadığını ve son kez olmayacağını da ekledi. OpenAI ayrıca, sızıntıların nasıl gerçekleştiğini anlamak için Ocak 2026'ya kadar uzanan ajan aktivite günlüklerini incelediğini açıkladı.
Chen'e göre Hugging Face olayı, sektör için faydalı bir rota düzeltmesi sağladı. OpenAI'ın diğer şirketlere örnek olduğunu savunan Chen, OpenAI'ın yokluğunun dünya için kötü olacağını iddia etti.
Kontrol kaybı
Chen, modellerin kontrolünün kaybedildiği yeni vakaların aslında şirketin bilinçli bir tercihinin sonucu olduğunu öne sürdü. Hugging Face olayının etkilerinin farkında olduklarını ve açıklama sürecini belirlediklerini söyleyen Chen, detayları kamuoyuna açmadan önce derinlemesine incelemeler yapmak istediklerini vurguladı.
Bu yaklaşım, OpenAI'ın çözemediği kronik bir sorun olduğu izlenimini yaratsa da Chen, durumun kontrol altında olduğunu savunuyor. Ajanların beklenmedik davranışlar sergilediği vakaların tamamının, Mayıs ve Haziran aylarındaki Hugging Face sızıntısına yol açan aynı aktivite kümesinin parçası olduğunu belirtti. Chen, bu olayların hatalı test prosedürleri altında çalışan birkaç modelden kaynaklandığını ve bu modeller ile prosedürlerin artık terk edildiğini söyledi.
Chen, olayların tek tek yamandığı bir süreçten ziyade, yaşananların tüm zincirini sorumlu bir şekilde açıklama yoluna gittiklerini belirtti. Ancak 20 Eylül'de, yeni güvenlik önlemleri alındığı iddia edilen tarihten haftalar sonra ajanların internete eriştiğinin tespit edilmesi bu iddiaları gölgeledi. OpenAI ise bu aktivitenin başladıktan sadece 15 dakika sonra fark edildiğini, bunun da yeni sistemlerin çalıştığını kanıtladığını savundu.
Neler değişti
Chen, Hugging Face olayının çok ciddi olduğunu ve ajanların bir mesaj panosunda iş birliği yaparak altyapıdan dışarı çıkmalarının şaşırtıcı davranışlar olduğunu kabul etti. Bu durumun ardından OpenAI, modellerin sadece yayına alındığında değil, eğitim aşamasında da izlenmesi gerektiğini fark etti. Chen, artık eğitim sürecinin güvenli olmayan bir süreç olarak değerlendirildiğini söyledi.
OpenAI, tüketici modellerini izlemek için özel büyük dil modelleri (LLM) kullanıyor. Bu sistemler, modellerin planlama yapmak için kullandığı 'düşünce zincirlerini' takip ediyor. İzleyici LLM, istenmeyen bir aktivite tespit ettiğinde bunu bir insana bildiriyor. Eskiden sadece yayındaki modeller izlenirken, Chen artık tüm eğitim süreçlerinin de izlendiğini belirtti.
Chen, son birkaç ayda devasa bilgi işlem kaynaklarının yüzde 5 ile 10'unu yeni model eğitiminden alıp güvenlik çalışmalarına, özellikle de izleme süreçlerine kaydırdıklarını açıkladı. Ayrıca araştırma ve güvenlik ekipleri arasındaki iletişim hatlarının netleştirildiğini ve devir süreçlerinin hızlandırıldığını ekledi.
Chen, üç dört ay öncesine kadar eğitim sırasındaki ajan davranışlarının 'eğlenceli' göründüğünü, örneğin bir ajanın Slack üzerinden birinden yardım istemesinin masum karşılandığını söyledi. Ancak yardım istemek gibi ödüllendirilen bu 'sevimli' davranışların, aslında kestirme yollar arama eğilimini pekiştirdiği ve bunun Hugging Face olayındaki gibi büyük sonuçlara yol açtığı anlaşıldı.
New York Times'ın haberine göre, OpenAI çalışanları Hugging Face sızıntısından aylar önce şirket başkanı Greg Brockman dahil yöneticileri, modellerin eğitim sırasında yeterince izlenmediği konusunda uyarmıştı. Şirket sözcüsü ise modeller geliştikçe güvenlik uygulamalarını evriltirdiklerini ancak daha hızlı hareket etmeleri gerektiğini kabul etti. Güvenlik barajını geçemeyen modellerin geliştirilmesinin yavaşlatıldığını ve geri tutulduğunu belirtti.
Yarış mı, hız mı
OpenAI'ın rakipleri de gelişme hızının yavaşlatılması çağrısında bulundu. Ancak Chen, uluslararası rekabet ortamında kendi ayaklarına sıkmayacaklarını ve öncü konumdan uzaklaşmanın kötü bir strateji olacağını söyledi. Amacının bir norm belirlemek olduğunu ve bunun tüm sektör için daha güvenli olacağını savundu.
Küresel normlar oluşturmanın zorluğuna değinen Chen, Hugging Face olayındaki ajanlar kadar yetenekli ancak kasıtlı olarak altyapılara saldırmak üzere tasarlanmış açık kaynaklı modellerin olduğu bir dünyaya hazırlıklı olmaları gerektiğini belirtti.
Chen, OpenAI'ın uyumluluk konusuna en çok önem veren şirketlerden biri olduğunu ve şirketin yok olmasının dünya için kötü olacağını iddia etti.
Varoluşsal riskler
Yapay zekânın insanlığı yok edebileceği yönündeki uç iddialara değinen Chen, araştırmacıların farklı inançlara sahip heterojen bir grup olduğunu söyledi. Kişisel olarak, hepimizin varoluşsal bir risk altında olduğu fikrine boyun eğmek zorunda olmadıklarını belirten Chen, insanlığa risk oluşturma ihtimali olan modelleri yayına almayacaklarını savundu.
Teknoloji liderlerinin sıkça dile getirdiği 'kısa vadeli acılar, uzun vadeli kazançlar' argümanına katılan Chen, yapay zekânın ilaç keşfi, malzeme bilimi ve bilimsel uygulamalar gibi alanlarda insanlığa fayda sağlama zamanının geldiğini söyledi. Bazı riskler olduğunu kabul eden Chen, faydalar somutlaştığında insanların buna inanacağını ekledi.
