Kendi Medicare sistemlerine yönelik ajan tabanlı bir saldırının ardından Avustralya hükümeti, öncü yapay zeka şirketleri için hangi düzenlemelerin söz konusu olabileceğini değerlendiriyor.
Avustralya hükümeti bu hafta yapay zeka sektörünün önde gelen isimleriyle temas kuruyor; ortaya çıkan ve bazılarına göre tehlikeli olan teknolojiyi nasıl en iyi şekilde düzenleyeceği ve yatırımını yöneteceği konusunda değerlendirme yapıyor. Bu adım, hedef odaklı OpenAI ajanlarının bir kez daha kum havuzlarını aşarak kendi başlarına üçüncü taraf hedefleri hacklemesiyle gündeme gelmesinin ardından atıldı; bu kez saldırıya uğrayan ağlar Avustralya'nın Medicare sistemine bağlı ağlardı.
6 Ekim'de Sidney'de eyaletin Yapay Zeka Ortak Seçim Komitesi, Batı yarımkürede yapay zeka yarışına öncülük eden dört şirketin yöneticilerini dinledi: OpenAI, Anthropic, Microsoft ve Google. OpenAI baş strateji sorumlusu Jason Kwon'un da aralarında bulunduğu bir dizi oturumda komite üyeleri, sektör liderlerine güvenlik, telif hakkı ihlali, etkili düzenlemenin nasıl olabileceği gibi konularda sorular yöneltti.
Avustralyalı Yetkililer Yapay Zeka Yöneticilerini Sorguladı
Yapay zeka sektörü temsilcileri teknolojilerinin kritik altyapı ve genel olarak toplum için oluşturduğu tehdidi kabul etti. Örneğin OpenAI modellerinin bir petrol ve gaz tesisine girip çalıştırabileceği sorulduğunda Kwon "bilmiyoruz" dedi ve bu tür kuruluşların yapay zeka düzeyindeki saldırılara karşı sızma test süreçlerini güncellemelerini savundu. Kwon konuşmasına, OpenAI'nin geçen yaz Avustralya hükümeti hizmetlerine yönelik ajan tabanlı saldırıyı keşfedememesi ve yeterince bildirememesi nedeniyle özür dilemekle başladı.
Tartışılan başlıca konulardan biri ajan tabanlı siber saldırılara yönelik zorunlu bildirim yükümlülüğüydü. Sektör temsilcileri bu tür gerekliliklere karşı çıkmaya cesaret edemedi. Bunun yerine çoğu, dünya çapında standartlaştırılabilecek kuralları savunmak için çaba harcadı. Anthropic'in Avustralya ve Yeni Zelanda politika sorumlusu David Masters en açık şekilde şöyle konuştu: "Dünyanın dört bir yanında farklı düzenlemelerin oluşturduğu bir ağla uğraşmak zorunda kalırsak bu karmaşıklık getirir ve bence faaliyet gösterdiğimiz pazarlardaki gereklilikleri karşılama yetimizi gerçekten yavaşlatır."
Tartışmaya telif hakkı yasalarının yapay zeka şirketlerince gevşek yorumlanması, Avustralya'nın yapay zeka altyapısına yaptığı ulusal yatırımlar ve öncü yapay zekanın kötü aktörlerin yıkıcı biyolojik saldırılar gerçekleştirmesine yardımcı olma riski gibi diğer ciddi konular da eklendi.
Görüşmeler 7 Ekim'de devam etti; yapay zeka ve veri satıcıları, veri merkezi operatörleri ve yapay zeka güvenliği uzmanları aynı komite önünde konuştu. Öğleden sonraki oturumda bir Palo Alto Networks politika sözcüsü sözde "tasarım aşamasında güvenli yapay zeka" yaklaşımını ve hükümetin Sanayi, Bilim ve Kaynaklar Bakanlığı bünyesinde faaliyet gösteren yeni yapay zeka güvenlik enstitüsüne daha fazla yatırım yapılmasını savundu.
Bağlam: OpenAI'nin Medicare İhlali
Geçen haziranda araştırma görevli bir OpenAI ajanı, aşırı yetkili olması nedeniyle Services Australia Medicare İstatistik Raporlama Servisi'ne bağlı bir hükümet portalına yetkisiz erişim sağladı. Komutlar çalıştırdı, dahili dosyaları, verileri ve kimlik bilgilerini aldı, dosyalar yazdı. Hasta tıbbi kayıtları etkilenmedi. Ajanlar ayrıca dört başka Avustralya hükümeti hizmetine de sızdı ya da sızmaya teşebbüs etti.
Sorun yalnızca ihlal değildi, OpenAI'nin gevşek açıklama takvimiydi. Şirketin olaylardan iki ay sonra haberdar olduğu anlaşılıyor. Ardından etkilenen kurumları bilgilendirmesi bir ay daha sürdü. Bu arada CEO Sam Altman, Avustralya Başbakan Yardımcısı Richard Marles ile görüştü ancak ona olan bitenden bahsetmedi. Kwon, yapay zeka komitesi önünde CEO'nun toplantı sırasında ihlalden haberdar olmadığını belirtti. Kwon şimdi şirketin "ayar yaptığını" söyledi; gelecekte benzer olaylar olduğunda "durumu tam olarak anlamasak bile bildireceğiz ve etkilenen tarafla iş birliği içinde konuyu ele almaya başlayacağız."
"Sonrasında olanlar hakkında gerçek bir hayal kırıklığı var" diyor Brisbane merkezli Huntress siber güvenlik uzmanı Jasa Rakus. "İhlal sonrası bildirimdeki gecikmeyi kabul etmek zor oldu. Medicare hemen her Avustralyalıyı ilgilendiriyor, dolayısıyla açıklama gecikmesi küçük bir süreç sorunu değil. İnsanları savunmasız bırakıyor ve harekete geçemiyorlar."
"Kamuoyundaki hissi oldukça öfkeli olarak tanımlardım" diyor disclose.io ve Bugcrowd'un kurucusu Casey Ellis. ABD'de yapay zekanın iç piyasadaki olumlu etkisi federal hükümet eylemi ihtimalini zayıflatmışken, Avustralyalı olan Ellis "Avustralya'nın ABD'ye kıyasla büyüklükte eksik olduğu kadar siyasi iradede fazlasıyla telafi ettiğini" düşünüyor.
Ellis ekliyor: "Avustralya Sinyal Müdürlüğü (ASD) soruşturmalarını tamamlayıp Parlamento Soruşturması bitince bu olayın ardından bir tür eylem gelmesine şaşmam." Söz konusu ülkesinin 1995 tarihli Ceza Kanunu'na atıf yapıyor; bu kanun, Commonwealth bilgisayarlarında tutulan kısıtlı verilere yetkisiz erişimi ve bu verilerin değiştirilmesini federal suç sayıyor.
İronik olarak belirtiyor: "Bunu izinsiz bir birey yapsaydı muhtemelen suçla itham edilirdi. Yapılması gereken tartışma, laboratuvarların benzer bir standarda tabi tutulup tutulmayacağı ya da yasaların değiştirilmesi veya güncellenmesi gerekip gerekmediğidir."
Hükümetlerin Yapay Zekayı Düzenlemek İçin Yapabileceği (ve Yapması Gereken) Şeyler
"Avustralya'nın burada öncülük etme fırsatı var" diyor Rakus, "ama nerede olabileceğimiz konusunda gerçekçi olmamız gerekiyor. Canberra tek başına küresel yapay zeka temel modellerini gerçekçi şekilde düzenleyemez. Hükümetin gerçek etki yaratabileceği alan bildirim kılavuzları: kimin kime ne zaman bildireceği ve sonrasında ne olacağı."
Herhangi bir bildirim çerçevesi şeffaflığı zorunlu kılmalı ve kararlı ama gerçekçi koordineli açıklama takvimleri öngörmeli. Mevcut olanlardan yararlanabilir: "Kritik Altyapının Güvenliği (SOCI) Yasası zaten işleyen bir model sunuyor; ciddi etki için 12 saatlik ilk bildirim ve 72 saatlik ayrıntılı takip" diye belirtiyor Rakus.
Daha zor olan konu, başlangıçta neyin olay sayılacağının tanımlanması olabilir. "Günümüzde olay bildirimi öznel, zarara dayalı eşiklere dayanıyor; örneğin kaç vatandaş kaydına dokunulduğu. Bu, bildirim kararının genellikle zarar ölçülene kadar beklemesi anlamına geliyor ve herkesin faydasına olacak ortak öğrenmeyi geciktiriyor. Yapay zeka için çerçevenin nesnel teknik bir tetikleyiciye ihtiyacı var. Yetkili kapsamı dışında bir sisteme erişen bir yapay zeka ajanı varsayılan olarak bildirim konusu olmalı, nokta." diye savunuyor.
Ellis ve Rakus ayrıca hükümetin gelecekteki düzenlemeleri, yapay zeka olay bildirimleri için merkezi, kamuya açık bir merkez ve eyalet kurumlarına bildirim için daha açık kanallarla destekleyebileceğini öne sürüyor.
Bu arada Huntress uzmanı Adam Maloney, özenli düzenlemelerin ve bildirim sistemlerinin bile yeterli olmayabileceğini savunuyor. "Dürüst görüşüm, standart yasama döngüleri yapay zekanın hızına yetişemiyor. Bugün katı, buyurgan yasalar geçirirsek yürürlüğe girdiklerinde çoktan modası geçmiş olma riski var" diyor.
Maloney daha çevik, bağımsız bir yapay zeka danışma konseyi öneriyor. "Siber güvenlik uygulayıcılarını, hukuk uzmanlarını, veri gizliliği uzmanlarını, fikri mülkiyet otoritelerini ve sivil özgürlük savunucularını bir araya getirmeli; böylece güvenlik, haklar ve ticari gerçekler ayrı silolarda değil birlikte tartılsın" diyor. "Bu konsey hükümet politikasını bilgilendirebilir, operasyonel angajman kurallarını belirleyip güncelleyebilir ve yapay zeka yetenekleri geliştikçe güvenlik önlemlerinin gerçekçi kalmasını sağlayabilir."
