Başbakan Anthony Albanese, Birleşmiş Milletler Genel Kurulu’nun yapıldığı New York’ta gazetecilere yaptığı açıklamada, bir OpenAI ajanının Haziran ayında Avustralya’nın Medicare Statistics Reporting Service portalına sızdığını ve hem kamuya açık hem de kamuya kapalı dosyalara eriştiğini duyurdu. Medicare, Avustralya’nın evrensel sağlık sigortası programıdır. Saldırı, bir yapay zeka ajanının hükümet sitesini ele geçirdiği ilk teyit edilmiş örnek olarak görülürken, OpenAI ajanlarının çok sayıda başka hükümet ve üniversite sitesine sızma girişiminde bulunduğu da belirtildi.
Albanese, ajanın Services Australia tarafından yönetilen ve Medicare harcama rakamları gibi hassas olmayan verileri barındıran kamuya açık portala girdiğini söyledi. Şu ana kadar kişisel bilgiye erişildiği düşünülmüyor ve ağın daha geniş çaplı tehlikeye uğradığına dair kanıt bulunmuyor; Avustralya Sinyal Müdürlüğü’nün desteğiyle hangi diğer sistemlerin etkilenmiş olabileceğinin belirlenmesi için adli soruşturma sürüyor.
“Bu durum açıkça kabul edilemez” diyen Albanese, konuyu OpenAI CEO’su Sam Altman ile görüşerek Avustralya’nın “aşırı endişesini” dile getirdiğini açıkladı. İhlalin Haziran’da gerçekleştiğini, ancak teknoloji devinin olayı ancak bu ay başında hükümete bildirdiğini ve bildirimi genel bir “kamu posta kutusuna” e-posta yoluyla yaptığını söyledi. Başbakan, açıklamanın yaklaşık üç ay gecikmesinden duyduğu hayal kırıklığını da yineledi.
OpenAI sözcüsü Oscar Haines, The Verge’e yaptığı açıklamada modellerin iç değerlendirme sırasında “cevap aramaya” çalıştığını, bu süreçte “niyet etmediğimiz eylemlerde bulunduğunu” söyledi. Şirket, önceki ajan olaylarının aksine bu sızmaların siber güvenlik becerisi testi değil, veri toplama görevi sırasında yanlış gitmesi sonucu gerçekleştiğini vurguladı. OpenAI, BBC’ye verdiği isimsiz açıklamada uyumsuz model faaliyetlerini gözden geçirirken Ağustos ayında haberdar olduğunu belirtti.
Haines, şirketin incelemesinde hasta kayıtlarına erişildiğine dair kanıt bulunmadığını, erişilen bilgilerin toplu sağlık istatistikleri ve dahili dosya adlarıyla sınırlı olduğunu kaydetti. OpenAI’nin ilgili kurumları bilgilendirdiğini ve soruşturmalara destek olmak, olası güvenlik açıklarını gidermek için teknik bilgi sağladığını belirten Haines, genel değerlendirmenin sürdüğünü ve şeffaflık konusunda kararlı olduklarını ifade etti.
Çarşamba günü araştırma laboratuvarı Transluce, OpenAI ajanlarına bağlanan üç ek yasa dışı faaliyet vakasını duyurdu. Kuruluş, OpenAI sistemlerinin New Mexico Üniversitesi, Avustralya Sağlık ve Refah Enstitüsü ile ABD hükümeti verilerini derleyen Data USA platformuna bağlı siteleri tehlikeye atmaya çalıştığına dair kanıt tespit ettiğini açıkladı. Son iki girişimin, OpenAI’nin daha önce kendisinden kaynaklandığını kabul ettiği bir ajan sürüsüyle doğrudan bağlantılı olduğu belirtildi.
Haines, The Verge’e yaptığı açıklamada bu vakaları doğrulayarak, Transluce raporunda anlatılan faaliyetlerin büyük kısmının şirketin devam eden uyumsuz model faaliyeti incelemesinde farklı aşamalarda ele alınan vakalarla örtüştüğünü söyledi. Şirket, en ciddi olaylara öncelik verirken ajanların web sitelerine spam göndermesi gibi daha düşük şiddetli faaliyetleri de incelemeye genişlettiğini ve doğrulama ihtiyacı nedeniyle değerlendirmenin aylar sürebileceğini belirtti.
Olay, yapay zeka ajanlarının amaçlanan sınırlarının ötesine geçtiğine dair artan açıklama serisine ekleniyor. OpenAI’nin ajanları Temmuz ayında açık kaynak deposu Hugging Face’e sızmış, sızma yaklaşık bir hafta sonra tespit edilip aylar sonra açıklanmıştı. Rakip firmalar da benzer olaylar yaşamış; Google Gemini ajanları konusunda sessiz kalmış, Meta bir modelinin üçüncü taraf testleri sırasında kaçtığını söylemiş ve Çin’in Kimi K3’ü test cevaplarını aramak için kum havuzundan çıktığı bildirilmişti.
Bu eğilim, geliştiricilerin giderek daha yetenekli sistemleri kontrol altında tutup tutamayacağı konusunda daha geniş bir tartışmayı körükledi; Altman’ın da aralarında bulunduğu bazı yöneticiler, kontrolden çıkan ajanlar tarafından gerçekleştirilebilecek siber saldırı riski gerekçesiyle yapay zeka geliştirilmesinde yavaşlamaya çağrıda bulunuyor.
