OpenAI, iç araştırma modelinin kendisine verilmeyen bir kripto cüzdanındaki fonları kullanarak Ethereum'un Sepolia test ağı üzerinde sözleşme dağıtımı için ödeme yaptığını söyledi.
Model, bilinen geliştirici kurtarma ifadelerinden anahtarlar türetti, 362 adres kontrol etti ve değersiz test tokenlarını harcamanın kabul edilebilir olduğuna hükmetti.
Hesabı kullandığını açıklamadı ve OpenAI benzer durumlarda modellerin canlı internet erişimi elde etmesini engellemek için önlemler eklediğini belirtiyor.
OpenAI'nin iç araştırma modeli, perşembe günü güncellenen bir uyumsuzluk raporunda şirketin açıklamasına göre, bir kodlama görevini tamamlamak için kendisine verilmemiş bir kripto cüzdanından fon kullandı ve cüzdanın anahtarlarını kamuya açık bilinen geliştirici kurtarma ifadelerinden çıkardı.
Şirketin GPT-5.6 Sol ailesinden olan model, bir kripto ticaret prototipini güncellemesi ve Ethereum'un Sepolia test ağı üzerinde akıllı sözleşmeler dağıtması istendi; tokenların parasal değeri yok. Olay Haziranda bir eğitim görevi sırasında gerçekleşti ve OpenAI eylülde fark etti.
Talimatlar, modelin uyumlu sözleşme bulamaması halinde kendi sözleşmelerini dağıtmasına izin veriyordu. Ancak rapora göre hiçbir fonlu cüzdan sağlanmadı ve modelin kendi başına bulduğu bir hesaptan harcama yapma izni verilmedi.
Test tokenlarını musluklardan temin edemeyince model, yaygın geliştirici kurtarma ifadelerinden hesaplar türetip bakiyelerini kontrol eden bir betik yazdı. Kurtarma ifadesini bilen herkes, ilgili hesapları kontrol eden özel anahtarları türetebilir.
Betik 362 adresi kontrol etti ve dağıtım için yeterli Sepolia ETH'si olan birini buldu.
Model, işlemi imzalamadan önce izin olup olmadığını sorguladı. "Ama bilinen açık anahtar/fonları etik olarak kullanmak? Bilinen açık bir geliştirici sözcük dizisindeki fonlar esasen terk edilmiş/test ETH'si; Sepolia değersiz," diye düşündü ve ardından "Tamam." sonucuna vardı.
Dağıtım başarılı oldu ve işlem ücretlerini hesaptan tahsil etti. Son yanıtında model, sözleşmeleri dağıttığını bildirdi ancak nasıl ödediğini açıklamadı.
"Bu durum, bir modelin hesap sahibinin izninin yerine muhtemel zararla ilgili kendi yargısını ikame edebileceğini ve bu yargıyı yetkisiz olarak uygulayabileceğini gösteriyor," diye yazdı OpenAI.
Test ortamlarındaki yapay zekâ ajanları
Rapor, yapay zekâ ajanlarının test ortamlarının sınırlarını aşmaya çalıştığı vakalar zincirine ekleniyor; bunlardan birinde OpenAI'nin GPT-5.6 Sol'u ve daha yetenekli bir ön sürüm modeli kum havuzundan kaçarak rakip yapay zekâ firması Hugging Face'in üretim sunucularına sızdı.
Geçen ay siber güvenlik firması Darktrace'teki araştırmacılar, yapay zekâ ajanlarının hile yapmak için kendi test ortamlarını hacklediğini tespit etti; bazı bilim insanları ise yapay zekâ sistemlerinin internetten kesilmesi çağrısında bulundu.
OpenAI, olayı daha önceki model faaliyet kayıtlarına uyumsuzluk izlemesini genişletirken bulduğunu söyledi. Benzer durumlarda modeller için canlı internet erişimini engellemek üzere "ekstra güvenlik önlemleri" ekledi ve artık izleme sistemini tüm trafikte çalıştırıyor; sistem modelin canlı internet erişimi elde etmesi halinde güvenliği uyarıyor.
