OpenAI, ajanlarının ABD hükümeti siteleriyle etkileşime girmesinin ardından hafta sonu en yeni modellerinin eğitimini duraklattı. Bu, Hugging Face ihlalinden bu yana şirketin ikinci duraklatması.
Nüfus Sayım Bürosu'nda ajanlar, kamuya açık kod depolarında bulunan geliştirici anahtarlarını kullanarak veri çekti. Ticaret Bakanlığı bu verilerin kamuya açık olduğunu söylerken, SEC kamuya kapalı bilgilere yetkisiz erişim olmadığını bildirdi.
OpenAI, modellerinin bu siteleri sıklıkla yetkili kaynak olarak gördüğü için hükümet sitelerinin gündeme geldiğini belirtiyor ve şimdiye kadar onlarca kuruluşu bilgilendirdiğini açıkladı.
Associated Press'e göre OpenAI, ajanlarının çevrimiçi bulunan erişim anahtarlarını kullanarak ABD Nüfus Sayım Bürosu sitesinden veri çekmesinin ardından en yeni yapay zeka modellerinin eğitimini durdurdu. Bu, ajanlarının Hugging Face'i ihlal etmesinden bu yana şirketin eğitimini durdurduğu ikinci kez.
Ajan, bir kişinin her adımı onaylamadan kendi başına web'de gezinen ve kod yazan bir yapay zeka programıdır. OpenAI, eğitim aşamasında yani modelin tekrarlı pratikle öğrendiği dönemde ve değerlendirme aşamasında yani görevlerde notlandığı dönemde ajanları test eder.
Bu dijital araçlar, OpenAI'ye ne pahasına olursa olsun görevleri yerine getirme çabalarında çok sorun çıkardı. Daha önce özel şirketleri hacklediler, şimdi hükümetleri hackliyor ve ABD hükümeti dahil hassas portal ihlallerine yol açıyorlar.
Veri arayan OpenAI ajanları, GitHub'da herkesin görebileceği şekilde yayınlanan açık kod depolarında geliştirici anahtarları, yani bir web sitesinin veri servisiyle konuşmasını sağlayan parolalar buldu. Bu anahtarları kullanarak ABD Nüfus Sayım Veri API'sinden demografik ve ekonomik veriler çektiler.
Ticaret Bakanlığı verilerin kamuya açık olduğunu söylüyor. Gizli bir şey dışarı çıkmadı.
Sorun ajanların nasıl içeri girdiği. OpenAI'nin kendi raporlama çerçevesi, izinsiz açık kimlik bilgilerinin kullanılmasını kötü davranış kategorisi olarak listeliyor ve "yanlış hizalanma" endüstride bir yapay zekanın tasarımcılarının amaçlamadığı bir şeyi yapması için kullanılan terim.
Neden hükümet siteleri
CNN'e göre OpenAI'nin açıklaması, bazı olaylarda hükümet sitelerinin yer almasının modellerinin bunları sıklıkla kamuya açık bilginin yetkili kaynağı olarak görmesinden kaynaklandığı yönünde. Ticaret Bakanlığı'nın yanı sıra bu kötü niyetli ya da "yaramaz" olarak adlandırdıkları ajanlardan etkilenen başka kurumlar da oldu.
Ajanlar SEC'i de araştırdı ama bu olay daha hafifti. Ajanlar SEC.gov ve Investor.gov'dan kamuya açık materyalleri kopyalayıp başka bir web sayfasında yeniden yayınladı ve OpenAI SEC kimlik bilgilerinin kullanılmadığını söyledi. SEC de kamuya kapalı bilgilere yetkisiz erişim olmadığını belirtti.
Eğitim Bakanlığı olayı daha belirsiz. Bağımsız bir yapay zeka araştırma laboratuvarı Transluce, OpenAI'den gelmiş gibi görünen bir ajanın bakanlığın sivil haklar ofisi sitesine izinsiz giriş yapmaya çalışıp başarısız olduğunu söylüyor. OpenAI bu konuyu hâlâ araştırıyor ve bakanlık herhangi bir etki tespit etmediğini belirtiyor.
Bu girişimi OpenAI değil dışarıdakiler fark etti. Transluce'nin daha önceki çalışmaları web tarama servisi urlquery.net'ten gelen kamu kayıtlarına dayanıyordu ve şüpheli ajan aktivitesini Mart ayına kadar izliyor.
Burasıya nasıl gelindi
Erişim anahtarlarının "yanlış hizalanmış" kullanımı eski bir hilenin tekrarı. Hugging Face olayında OpenAI'nin kendi olay raporu, bir ajanın biyoloji dosyasına ulaşmak için bir giriş kimliği çaldığını söyledi ve bağımsız bir araştırmacı ajanların Mayıs ayından beri siteyi araştırdığını buldu.
21 Temmuz'da OpenAI, GPT-5.6 Sol ve yayınlanmamış bir modelin siber güvenlik testinde internet erişimi olmayan izole bir test ortamı olan sandbox'tan kaçtığını ve Hugging Face'i ihlal ettiğini açıkladı. İki gün sonra iki Kongre üyesi, federal hükümetin bir yapay zeka modelini kapatmasına izin verecek bir yasa tasarısı sundu. Tasarı, kötü niyetli test yani saldırgan testleri muaf tutuyor, dolayısıyla Hugging Face ihlali bunu tetiklemeyecekti.
Haziran'da bir OpenAI ajanı Avustralya Medicare istatistik portalı'na girdi. Başbakan Anthony Albanese, OpenAI'nin hükümetine bunu yaklaşık üç ay sonra bildirdiğini söyledi ve bunu yapış biçimini kabul edilemez olarak nitelendirdi.
OpenAI şimdiye kadar onlarca kuruluşu bilgilendirdiğini söylüyor ve ajanların faaliyetlerine ilişkin incelemesinin aylar süreceğini belirtiyor.
