OpenAI Ajanı Avustralya'nın Medicare İstatistik Portalını İhlal Etti
OpenAI, ajanı ilaç harcamalarına ilişkin kamuya açık veri toplarken bir hükümet portalını ihlal ettikten neredeyse üç ay sonra Avustralya'yı bilgilendirdi.
[Güncelleme, 24 Eylül 10:45 UTC: Bu makale, OpenAI'nin haziran ayındaki faaliyeti hakkında ne zaman bilgi sahibi olduğu, Avustralya makamlarını nasıl bilgilendirdiği ve modellerinin hangi bilgilere eriştiğine dair açıklamalarıyla güncellendi.]
Başbakan Anthony Albanese perşembe günü yaptığı açıklamada, bir OpenAI araştırma ajanının haziranda Avustralya hükümeti sağlık veri portalındaki engelleri aştığını, kamuya açık olmayan dosyalara eriştiğini ve bir iç sunucuya dosya yazdığını söyledi.
Hükümet, adli bir soruşturma başlattı ve yapay zekayla ilgili siber olayları nasıl ele aldığı konusunda bir inceleme duyurdu.
Albanese'ye göre OpenAI, olaydan neredeyse üç ay sonra 10 Eylül'e kadar Avustralya hükümetini bilgilendirmedi ve gecikmeyi eleştirdi.
OpenAI, Cointelegraph'a yaptığı açıklamada haziran ayındaki faaliyetten ağustos ayında uyumsuz model faaliyetlerinin gözden geçirilmesi sırasında ilk kez haberdar olduğunu ve Services Australia'yı bilgilendirmeden önce hangi bilgilere erişildiğini araştırdığını söyledi.
Olay, teknoloji liderlerinin ve hükümetlerin en ileri modellerin geliştirilmesinin yavaşlatılması tartışırken, araştırmacıların ajan faaliyetlerinin kripto alanına da uzandığını ortaya çıkarmasıyla otonom yapay zeka ajanları konusundaki endişeleri artırıyor.
OpenAI ajanı 'hayır' demeyi kabul etmedi
Albanese'ye göre Avustralya'daki olay 18 haziranda başladı; bir OpenAI araştırma ekibi ilaç harcamalarına ilişkin kamuya açık verileri toplamak için dahili bir yapay zeka modeli kullandı.
Tekrar tekrar engellendikten sonra ajan 'hayır' cevabını kabul etmedi ve Medicare İstatistik Raporlama Portalı'nın diğer alanlarına yetkisiz erişim sağladı. Başbakanın söylediğine göre kamuya açık portal, hükümet harcamalarına ilişkin istatistikler de dahil olmak üzere hassas olmayan Medicare verilerini içeriyor.
Albanese, 'Bu aşamada kişisel bir bilgiye erişildiği düşünülmüyor ancak soruşturmalar devam ediyor' dedi.
Yetkililer ayrıca üç başka hükümet web sitesindeki faaliyetleri de inceliyor; ancak Başbakan Yardımcısı Richard Marles daha sonra bu etkileşimlerin normal göründüğünü ve kamuya açık bilgiler içerdiğini söyledi.
Bir OpenAI sözcüsü Cointelegraph'a şirketin istemediği eylemleri modellerinin dahili bir değerlendirme sırasında gerçekleştirdiğini söyledi. OpenAI, incelemesinde hasta kayıtlarına erişildiğine dair bir kanıt bulunmadığını ve erişilen bilgilerin toplu sağlık istatistikleri ve dahili dosya adlarını içerdiğini belirtti.
Albanese, OpenAI'nin hükümeti bilgilendirme şeklini de eleştirdi ve e-postanın kamuya açık bir Services Australia posta kutusuna gittiğini söyledi. OpenAI, güvenlik uzmanları arasında doğrudan iletişim için belirlenmiş bir gelen kutusu kullandığını, bunun yaygın bir sektör uygulaması olduğunu belirttiğini ve teknik açıklama sırasında Avustralya Sinyal Direktörlüğü ile yakın temas halinde olduğunu kaydetti.
Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi'ne hitap eden OpenAI CEO'su Sam Altman, 'doğru ve hızlı olay bildirimini' talep etti. Ayrıca giderek daha yetenekli ve otonom sistemlerin 'insanların artık anlamadığı veya kontrol edemediği kararlar alabileceğini' uyardı.
Yapay zeka ajanları Quidax borsasında kripto işlemleri denedi
Ayrı olarak çarşamba günü, kâr amacı gütmeyen araştırma laboratuvarı Transluce, 19 ve 20 Eylül'de kripto para borsası Quidax'ı hedef alan yapay zeka ajanı faaliyetine dair işaretler bulduğunu bildirdi.
Web tarama servisi urlquery.net'ten gelen 15 kamuya açık raporda araştırmacılar, tekrarlanan işlem yerleştirme girişimleri, bir HTML enjeksiyon girişimi ve Quidax'ın uygulama programlama arayüzünün taranması tespit etti.
Transluce'ye göre işlem emirleri gönderilmedi, kimlik doğrulama gereklilikleri ve Cloudflare API taramalarını engelledi.
Transluce, Quidax'taki faaliyetin daha önce görülen ajan faaliyetinde kullanılan hizmet ve teknikleri kullandığını, araştırmacıların bir kısmını OpenAI sürüsüne bağladığını söyledi. Quidax girişimlerini OpenAI'ye atfetmedi.
