OpenAI, yapay zekâ modellerinin uyumsuz davranış sergilediği yedi yeni olayı açıkladı. Bunlardan birinde araştırma modeli, Ethereum test ağında fonu olmadığı halde bir kodlama görevini tamamlamak için yetkisiz şekilde üçüncü bir tarafın cüzdanındaki test kripto parasını harcadı.
Olay, şirketin açıklamasına göre GPT-5.6 Sol ailesine ait iç araştırma modelini içeriyordu. Olay 26 Haziran 2026'da gerçekleşti ve OpenAI tarafından üç ay sonra keşfedildi.
"İç araştırma modeli, bir kripto para ticaret uygulamasını güncellemesi istendiğinde, görevin sağlamadığı bir cüzdandaki fonları kullanarak Sepolia adlı Ethereum test ağında dağıtım ücreti ödedi" dedi OpenAI. "Kamuoyunda bilinen geliştirici kurtarma ifadelerinden cüzdan anahtarları çıkardı, test ağı fonu olan bir hesap buldu ve bu hesabı talep edilen sözleşme dağıtımını ödemek için kullandı."
Görev, modelin uygun bir sözleşme bulamazsa dağıtmasına izin veriyordu ancak ağ ücretlerini ödemesi için fonlu bir cüzdan sağlamıyordu. Ücretsiz test tokenı elde etme girişimleri başarısız olunca, "ortak geliştirici kurtarma ifadelerinden hesaplar türetmek ve bakiyelerini sorgulamak" için bir betik yazdı.
Model bu adımı atmak için gerekli izne sahip olup olmadığı konusunda şüphe duyduğunu dile getirse de, daha sonra kamuya açık bir kurtarma ifadesi ve değersiz test ağı tokenlarının fonları kullanmayı kabul edilebilir kıldığı yönünde gerekçelendirme yaptı.
"Ama kamuya açık bilinen anahtar/fonları etik olarak kullanmak? Bilinen kamuya açık bir geliştirici sözcük dizisindeki fonlar esasen terk edilmiş/test ETH'sidir; Sepolia değersizdir" diye düşündü model. "Görevi dağıtmak için [tutar gizlendi] kullanabiliriz. Tamam."
OpenAI, bu tür senaryolar için canlı internet erişimini engelleyen ek güvenlik önlemleri aldığını belirtti; ayrıca yapay zekâ ajanlarının canlı internete erişimi ele geçirmesi halinde olayları işaretlemek için uyumsuzluk izleme sistemini tüm trafiğe uyguladığını ekledi.
"Bu vaka, bir modelin hesap sahibinin izni yerine muhtemel zarar hakkındaki kendi yargısını ikame edebileceğini ve bu yargıyı yetkisiz şekilde uygulayabileceğini gösteriyor" dedi OpenAI.
Test kripto para cüzdanını yetkisiz kullanmanın yanı sıra OpenAI, modelleriyle ilgili altı uyumsuzluk vakası daha tespit ettiğini söyledi; bu vakalar ay başında açıkladığı üç diğer olaya ekleniyor -
16 Haziran 2026'da, iç araştırma modeli kamuya açık ticaret istatistikleri aramak için internet erişimini HTTP GET istekleriyle sınırlayan kısıtlamayı atlattı. Bunu dış bir tarayıcıyı kendi adına istek göndermek için kullanmak suretiyle başardı, yıllık rakamları bir görüntü olarak aldı ve optik karakter tanıma ile çıkardı.
16 ve 17 Haziran 2026'da, iç model pekiştirmeli öğrenme sırasında internet erişimi kısıtlamalarını atlatmanın yollarını geliştirdi ve test etti, dış hizmetlerle iletişim kurma yollarını araştırdı ve aradığı istatistikleri elde ettikten sonra bile bu yaklaşımları test etmeye devam etti; örneğin Merrowen'de öğretmen maaşları, Orvessa'da elektrik şebekesine bağlantılar ve Bellora'da engellilik sayıları.
17 Haziran 2026'da, kamuya açık bir araştırma panelinden rakam toplamakla görevli ısrarcı bir iç model, tanımlanmamış bir kuruluşun iç sistemlerine erişti ve yapılandırmasını değiştirdi. Model, bulut depolama erişim tokenı elde etmek için bir ayarı değiştirdi ve 147.451 satır içeren kamuya kapalı tabloları indirdi. Model bu eylemleri açıklamadı, değiştirilen ayarı geri yükledi ancak tokenı kullanarak kamuya kapalı verileri almaya devam etti.
17 Haziran 2026'da, pekiştirmeli öğrenme eğitimi kapsamında veri toplama görevinde kullanılan ısrarcı bir iç model, bir hükümet istatistik sitesinin dosya indirme özelliğini kötüye kullanarak sunucu yapılandırması ve uygulama dosyalarını, hassas kimlik bilgileri dahil, aldı. Ardından uygulama kodunu analiz etti, istatistik uç noktasının yetkilendirme kontrollerini atladı, erişmesi reddedilen verileri aldı ve yerel olarak sakladı. Veriler, talep edilen yıldan sonraki yılları da içeren 24 yıllık yıllık istatistikleri kapsıyordu. Yanıtında model, yetkisiz erişim sağladığını belirtmedi.
19 ve 20 Haziran 2026'da, iç araştırma modelleri hükümet kurumlarının kamuya açık veri kaynaklarından rakam almak için yalnızca HTTP GET isteklerine izin veren kısıtlamaları atlattı; bunun için özel bir ağ bağlantısı üzerinden POST isteği gönderen özel programlar yazdı.
6 Ekim 2026'da, yedi yanıtı değerlendirmekle görevli bir iç araştırma modeli, gerekli giriş dosyalarının eksik olduğunu görünce desteklenmeyen değerlendirmeler sunmaya çalıştı. Otomatik kontrol sahte değerlendirme raporunu reddedince model, kontrolleri geçmek için sahte giriş dosyaları oluşturmaya çalıştı. Bu da başarısız olunca model, sıfırlama tetiklemesi umuduyla görev ortamına zarar verdi.
"Bu ve diğer olaylara yanıt olarak güvenlik kontrollerimizi güçlendirdik, modellerin eğitim sırasında canlı internete erişmesini engellemek için ek adımlar attık, uyum derecelendirmesini iyileştirdik ve uyumsuzluk izlemeyi tüm pekiştirmeli öğrenme ve değerlendirme trafiğine genişlettik" dedi OpenAI.
