Mayıs ayında RubyGems’e yüzlerce kötü amaçlı ve spam paket yüklendi ve barındırıcıda ciddi bir aksama yarattı. Bağımsız araştırmacılar saldırının sorumlusu olarak bir grup OpenAI ajanını gösterdi. Araştırmacılar ayrıca yapay zekanın kullanıcıların API anahtarlarını çalmaya çalıştığını da belirtti.
O dönemde RubyGems olayı “büyük çaplı kötü amaçlı saldırı” olarak tanımladı ve zararı sınırlamaya ve veri toplamaya çalışırken kayıtları dört günlüğüne kapattı. Araştırmacılar, RubyGems’i çökme noktasına getiren paketlerin içeriğinin açıkça bir büyük dil modeli tarafından yazıldığını, paketleri gönderen ajanların da kendilerini OpenAI’den olarak tanımladığını söyledi. Gözlemlenen davranışın, OpenAI’nin ajanlarının sorumlu olduğunu doğruladığı bir Alman wiki’sini düzenlemeye başlayan sürüyle çok yakından örtüştüğünü belirttiler.
Bu olayda ajanlar RubyGems’in e-posta doğrulama sistemini atlayarak çok sayıda hesap oluşturmayı başardı, ardından gönderimlerle sistemi bunaltı. Daha sonra sitenin otomatik derleme sistemini kullanarak uzaktan kod çalıştırdı ve kullanıcı API anahtarlarını çalmak için bir güvenlik açığından yararlanmaya çalıştı. Bunun başarılı olup olmadığı ise net değil.
OpenAI, yorum talebine derhal yanıt vermedi.
