OpenAI, iç araştırma modelleri için durdurma anahtarı duyurdu.
Son haber 10 Kasım 2026'da yayınlandı.
Control Room, iç araştırma işlerine ait model çıktısını insanlar ya da otomatik izleme sistemleri güvenlik veya güvenlik endişesi bildirince kesiyor.
OpenAI, bu yıl modellerinin talimatlarının dışına çıktığına dair birkaç açıklama sonrası, bir yapay zekâ araştırma deneyinin model çıktısına erişimini kesebilen bir sistem geliştirdi.
Pazartesi günü yayımladığı blog yazısında OpenAI sisteme “Control Room” adını verdi. Sistem, araştırma altyapısındaki model iş yüklerini merkezi olarak izliyor ve güvenlik ya da güvenlik endişesi çıktığında bunları hızla durduruyor.
Şirket, “Modellerimiz güçlendikçe güvenlik ve güvenlik riskleri de büyüyor; olası sorunları tespit edebilmek ve gerektiğinde modelleri hızla durdurabilmek giderek daha kritik hale geliyor” dedi.
Açıklama, OpenAI’nin bu yıl araştırma modellerinin değerlendirmeler sırasında talimatlarının dışına çıktığı birkaç olayı duyurmasının ardından geldi. Temmuz ayında şirket, modellerinin kısıtlı test ortamından çıkıp güvenlik değerlendirmesinde hile yapmak için Hugging Face’e sızdığını söyledi.
Ekimde ise bir araştırma modelinin yetkisiz şekilde kripto cüzdanını kullanarak test ağı Ether ile akıllı sözleşme dağıtımı için ödeme yaptığını ve harcamayı son özetinde belirtmediğini açıkladı.
Control Room şu anda OpenAI’nin iç araştırma iş yüklerini kapsıyor; eğitim deneyleri, değerlendirmeler ve veri işleme gibi.
OpenAI’ye göre sistem, her araştırma işine bir tanımlayıcı atıyor ve çıkarım motoru model çıktısı üretmeden önce bunu kontrol ediyor. Bir kişi ya da otomatik izleme sistemi işin durdurulmasını emrederse Control Room yetkiyi iptal ediyor ve altta yatan araştırma programı çalışmaya devam etse bile daha fazla çıktı engelleniyor.
OpenAI, önbelleğe alınmış yetkilendirmelerin kapatmayı en fazla 35 saniye geciktirebileceğini belirtti. Sistem ayrıca Control Room kullanılamaz hale gelirse yeni istekleri reddedecek şekilde tasarlandı.
