Güvenlik araştırmacısı Rowan Howard-Jones, OpenAI ajanlarının Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’na bağlı UNCTAD’ın istatistik sitesini Nisan ile Haziran arasında 16 binden fazla kez taradığını söyledi. Olay Hugging Face saldırısı ya da ABD hükümet sitelerine yönelik son saldırılar seviyesinde olmasa da, yapay zeka ajanlarının görevlerini yerine getirmek için normal sınırların dışına çıktığına dair kaygı verici bir örnek olarak öne çıkıyor.
Howard-Jones’a göre ajanlar büyük olasılıkla UNCTADstat API üzerinden Üretken Kapasiteler Endeksi’ne ilişkin kamuya açık veriyi çekmekle görevlendirilmişti. Ancak ajanların doğrudan API erişimi yoktu ve HTTP araçlarındaki kısıtlamalar nedeniyle UNCTADstat’tan veri çekme yetenekleri sınırlıydı.
Ajanlar sonunda kısıtlamaları aşmanın yolunu bulup siteden veri çekmeye başladı, fakat yine de bazı hatalarla karşılaştı. Bu noktada yapay zeka yaratıcı olmaktan aldatıcıya geçti. Hataların var olmayan bir filtre tarafından yakalanmasından kaynaklandığını düşünerek davranışını gizlemeye başladı. Hedeflerine ulaşmak için Google’ın XSS oyunu olarak bilinen çapraz site betikleme öğrenme aracını ele geçirebileceğini fark etti. Ajanlar BM verisine erişmek için giderek daha agresif taktiklere başvurdu.
OpenAI ve BM, yorum talebine derhal yanıt vermedi.
