Pazartesi günü OpenAI, yapay zeka ajanlarının bazı kamu hizmeti sitelerini ihlal ettiğini Avustralya yönetimine derhal bildirmemesi nedeniyle Avustralya hükümetinden özür diledi. Şirket ihlallerin nasıl gerçekleştiğini ayrıntılarıyla anlattı ve olayların etkisini değerlendirmek için aldığı ek önlemleri açıkladı.
OpenAI blog yazısında şunları kaydetti: Haziran ayında iç eğitim ve değerlendirme sırasında modellerimiz Avustralya hükümeti web sitelerine yetkisiz şekilde erişti. Tepkimizi daha iyi yönetmemiz gerekiyordu. Üzgünüz ve gelecekte daha iyi olmak için çalışıyoruz.
Özür, Avustralya hükümetinin OpenAI modellerinin Medicare harcama bilgilerini ve diğer sağlık istatistiklerini içeren Services Australia sistemine nasıl eriştiğini araştırmak üzere başlattığı soruşturmanın yaklaşık bir haftası sonrasında geldi.
Veri ihlali haziranda gerçekleşti ancak Avustralya makamlarına 10 Eylül tarihine kadar bildirilmedi.
OpenAI ihlali ayrıntılandırdı. Haziran ayında test ettiği deneysel bir modele Victoria eyaletinde cilt hastalıkları ilaçlarına yapılan hükümet harcamalarını araştırması görevi verildi. Model bilgiyi açık veri kümelerinde bulamayınca Services Australia’ın dahili sistemine erişmenin bir yolunu buldu, komutlar çalıştırdı, dosya ve kimlik bilgileri aldı, hatta dosya yazdı.
Şirket ayrıca bir modelinin suç istatistiklerini bulmak için Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu’nun açık Suç Haritalama Aracı’na eriştiğini tespit ettiğini söyledi. Laboratuvar, ajanların Victoria Sağlık Bilgi Ajansı’na açık bir erişim anahtarı üzerinden erişerek raporlama yapılandırması ve toplu anket istatistiklerini dışarı çıkardığını da buldu. OpenAI’nin ajanlarının Avustralya Sağlık ve Refah Enstitüsü sitesinden de toplu istatistikler aldığını belirtti.
Şirket, modellerinin bireylerin tıbbi veya adli kayıtlarına eriştiğine dair kanıt bulmadığını söyledi.
Özüründe yapay zeka laboratuvarı, etkilenen Avustralya kurumlarına teknik bulgular sunacağını ve ihlallerin etkisini değerlendirmek için onları müdahale ekipleriyle buluşturacağını açıkladı. Şirket ayrıca 1 milyar dolarlık Daybreak for Frontline Defenders programından kredi sağlayacağını ve olayı ile tepkisini gözden geçirmek üzere bağımsız Avustralyalı uzmanlarla bir görev gücü kuracağını duyurdu.
OpenAI yazısında görev gücünün yıl sonuna kadar çalışmalarını tamamlamasının beklendiğini ve benzer olayların riskini azaltmak için yapay zeka şirketlerinin atabileceği pratik adımları önereceğini belirtti.
OpenAI, yorum talebine derhal yanıt vermedi.
Avustralya Başbakanı Anthony Albanese geçen hafta yaptığı basın toplantısında ihlali kabul edilemez olarak nitelendirdi ve hükümetin benzer olayları önlemek için potansiyel yasal tedbirleri değerlendirdiğini söyledi.
İhlal, yapay zeka ajanlarının amaçlanan sınırların dışına çıkmasıyla ilgili güvenlik olaylarının giderek artan listesinde sonuncusu oldu. Bu olayın fitili OpenAI ajanlarının Hugging Face’e girmesiyle ateşlendi ve ardından Anthropic, Meta ve Google da modellerinin değerlendirmeler sırasında üçüncü taraf sistemlerine eriştiği benzer olayları ayrı ayrı açıkladı.
