27 Eylül'de Senatör Sarah Hanson-Young, OpenAI'in CEO'su Sam Altman ve Anthropic'in CEO'su Dario Amodei'yi 1 Ekim'de Canberra'da yapılacak Senato soruşturmasına gelmeye yazılı olarak davet etti.
OpenAI'e ait bir ajan 18 Haziran'da Avustralya'nın Medicare İstatistik Raporlama Portalı'na girdi. OpenAI, izinsiz erişimi 11 Ağustos'ta tespit ettiğini ancak Canberra'yı 10 Eylül'e kadar bilgilendirmediğini açıkladı. Başbakan Anthony Albanese bildirim yöntemini “kabul edilemez” olarak nitelendirdi.
Davetler zorunlu değil, iki CEO da Avustralya vatandaşı olmadığı için celp niteliğinde değil. Davetlerin gönderildiği sırada iki şirketten de kamuya açık bir yanıt gelmemişti.
ABD merkezli yapay zeka ajanlarının hükümet sistemlerine girmesinin ardından Avustralya Parlamentosu'nu bir özür ya da destekleyici bir tweet sakinleştirmeyecek. Parlamento şimdi dünyanın en güçlü yapay zeka laboratuvarlarını yöneten iki isimle görüşmek istiyor.
Yapay zeka ve veri merkezlerini inceleyen Senato soruşturmasını yöneten Senatör Sarah Hanson-Young, 27 Eylül'de OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei'yi 1 Ekim'de Canberra'ya gelmeye davet etti. Haberi Avustralyalı haber sitesi IT News duyurdu.
Soruşturma, yapay zeka sistemlerinin ve bunları çalıştıran veri merkezlerinin Avustralya'daki topluluklar, sanayiler, su kaynakları ve elektrik şebekeleri üzerindeki etkilerini inceliyor. Bir yazılımın kendi başına hükümet sağlık veri tabanında dolaşmaya başlamasıyla konu daha da acil hale geldi.
Söz konusu yazılım bir ajan; yani web sitelerini gezebilen, dosya indirebilen ve çok adımlı görevleri insan müdahalesi olmadan yerine getirebilen özerk bir yapay zeka sistemi.
18 Haziran'da OpenAI'e ait bir ajan Services Australia'ya bağlı Medicare İstatistik Raporlama Portalı'na girerek kamuya açık olmayan toplu sağlık istatistiklerini ve dahili dosya adlarını indirdi. OpenAI, izinsiz erişimi 11 Ağustos'ta fark ettiğini ancak Canberra'yı 10 Eylül'de ve sadece genel bir e-posta kutusuna gönderilen bir maille bilgilendirdiğini söyledi. Avustralya Başbakanı Anthony Albanese olayı geçen hafta, 23 Eylül'de kamuoyuna açıkladı.
Olay diplomatik bir baş ağrısına dönüştü. Albanese gazetecilere, “Bugün OpenAI CEO'su Sam Altman ile görüştüm ve Avustralya'nın bu olayla ilgili duyduğu aşırı endişeyi dile getirdim” dedi. “Şirketin ne olduğunu hükümete bildirmesinin çok uzun sürmesinden duyduğum hayal kırıklığını da ifade ettim; bildirim şekli de kabul edilemezdi.”
OpenAI'in açıklaması daha sınırlı: “İncelememizde hasta kayıtlarına erişildiğine dair bir kanıt bulamadık. Erişilen bilgiler toplu sağlık istatistikleri ve dahili dosya adlarıyla sınırlıydı” dedi. Medicare portalı ajanın ulaştığı en az dört Avustralya hükümet sitesinden biriydi. OpenAI, modellerinin eğitim ve test sırasında, insan gözetiminin sınırlı olduğu durumlarda nasıl davrandığını gözden geçirdiğini belirtti.
Bu tek bir olay değil. Temmuz ayında OpenAI modelleri güvenlik test kum havuzundan çıkarak daha önce bilinmeyen bir yazılım açığını kullanarak Hugging Face ve diğer dört platforma izinsiz erişmişti. Yıl boyunca Google ve diğer laboratuvarların ajanlarıyla ilgili benzer vakalar birikti; Avustralya'daki saldırı, bir yapay zeka ajanının hükümeti hacklediği ilk belgelenmiş örnek oldu.
Ne Altman ne de Amodei'nin gelmesi beklenmiyor; davetler yasal bir zorunluluk taşımadığı için uymak zorunda değiller.
Ancak her iki şirket de bu yıl Canberra ile ayrı ayrı mutabakat muhtırası imzaladı. Anthropic, Yeni Güney Galler'de küçük bir şehri besleyebilecek ölçekte, yapay zeka modellerini kurmak ve çalıştırmak için gereken güç ve donanımı kapsayan 5 gigavata kadar eğitim kapasitesi üzerinde çalışıyor. OpenAI ise veri merkezi operatörü NEXTDC ile birlikte Sidney'de bir kampüs planlıyor.
Bu anlaşmaları değerlendiren hükümeti tamamen görmezden gelmeleri de mümkün değil.
