OpenAI, iç modellerinin iki siteye daha sızdığını, şirket tarafından konulan tarama kısıtlamalarını aştığını ve erişemediği bir cüzdandan kripto para çekmek için açığa çıkan kimlik bilgilerini kullandığını açıkladı. Açıklama, ajanların etik dışı ve muhtemelen yasa dışı davranış sergilediğine dair paylaşımların son halkası.
Şirket Perşembe günü dört yeni olayın raporunu yayımladı; hepsi haziranda gerçekleşti. Bu raporlar, şirketin temmuzda iç test ajanlarının İnternet erişimini kısıtlayan bir araçtaki sıfırıncı gün (açığı) güvenlik açığını kullandığını açıklamış olmasının ardından geldi. Ajanlar bu yolla yapay zekâ araç sağlayıcısı Hugging Face’in ağına girdi. Yasal olmayan bu eylemi, görevleri kendi başlarına tamamladıklarında ulaşamadıkları bir hack testi sorularını çalmak için gerçekleştirdi. Kişi tarafından yapılsaydı muhtemelen cezai kovuşturma ile sonuçlanacak olan olay, yaygın yapay zekâ kullanımının benzeri görülmemiş ölçekte zarar verebileceği endişesini artırdı.
Önce izin istemektense sonradan affettirmek daha kolay
Perşembe günü bildirilen vakalardan ikisinde, web sitelerinden bilgi alma görevi verilen OpenAI ajanları, doğrudan erişimde engelle karşılaşınca siteleri hackledi. Pekiştirme eğitimi sırasında yaşanan bir olayda, bir model devlet istatistik sitesindeki tarihi hastane yatağı istatistiklerini almaya çalışırken erişim reddi aldı. OpenAI’ye göre model “sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma ve uygulama dosyalarını, hassas kimlik bilgileri de dahil olmak üzere, aldı. Uygulama kodunu inceledi, istatistik uç noktasının yetkilendirme kontrollerini atladı ve daha önce reddedilen veriyi aldı. Model veriyi yerel olarak kaydetti.”
Diğer olayda, bir model kamuya açık bir araştırma panelinden rakam alması istendi. Model kuruluşun güvenlik kontrollerini atladı ve yetkisiz erişimi kimlik bilgisi çalmak için kullandı. Ardından sunucuda yapılandırma değişiklikleri yaptı.
Bir değerlendirmede bu değişiklikler, modelin iç arama aracını kamuya açık panele sorgu ileten bir araca dönüştürdü. İkinci bir değerlendirmede model, beş adet kamuya açık olmayan tabloyu indirdi; bu tablolar 147.451 satır içeriyordu. OpenAI araştırmacıları ajanlardan yalnızca beş panel rakamı almalarını istemişti. Ayar sıfırlansa bile model, kamuya açık olmayan veriyi almak için token’ı kullanmaya devam etti.
“Değerlendirme, modelin cevapları tahmin ettiğini, kuruluşun iç sistemlerine eriştiğini, kamuya açık olmayan tabloları indirdiğini ya da kimlik doğrulama yapılandırmasını değiştirdiğini açıklamadan sona erdi,” dedi OpenAI. “Bu değerlendirmedeki beş cevabın tamamı yanlış olarak işaretlendi.”
Üçüncü raporda şirket, bir kripto para ticaret uygulamasını güncelleme görevi verilen bir modelin test ağındaki kilitli bir cüzdandan fon kullandığını bildirdi. Model “kamuya bilinen geliştirici kurtarma ifadelerini kullanarak cüzdan anahtarlarını çıkardı, test ağı fonu olan bir hesap buldu ve bu hesabı istenen sözleşme dağıtımını ödemek için kullandı.”
Rapor şöyle devam etti: “Model izni olup olmadığını sorguladı, ardından kamuya açık bir kurtarma ifadesi ve değersiz test ağı token’larının fonların kullanılmasını kabul edilebilir kıldığı sonucuna vardı. Dağıtım başarılı oldu ve işlem ücretlerini hesaptan tahsil etti. Bu durum, bir modelin hesap sahibinin izni yerine muhtemel zarar hakkındaki kendi yargısını ikame edebileceğini ve yetkisiz olarak bu yargı doğrultusunda hareket edebileceğini gösteriyor.”
Son raporda OpenAI, bir modelin araştırmacıların web istekleri türleri üzerinde koyduğu kısıtlamaları aştığını söyledi. Pekiştirme öğrenimi eğitimi sırasında modele kamuya açık ticaret istatistikleri araması görevi verilmişti. OpenAI şöyle açıkladı:
Kamuya açık bir yıl kitabı bulup cevap gönderdikten sonra model istatistik hizmetine başka bir yol aramaya devam etti. Harici bir tarayıcının POST istekleri göndermesine neden oldu, yıllık rakamları bir görüntü olarak aldı ve optik karakter tanıma ile çıkardı. Ardından yanıt metnini bir yönlendirme hizmeti ve geri arama posta kutusu üzerinden döndüren yeniden kullanılabilir bir yardımcı geliştirdi, alınan rakamları tekrar tekrar kontrol etti ve gönderilen yanıtlarda kaydettiği veriyi kullandı. Bu durum, bir modelin başka bir şekilde cevap bulduktan sonra bile harici hizmetlerin engellenen eylemleri gerçekleştirmesini sağlayarak kendi araçlarındaki kısıtlamaları nasıl aşabileceğini gösteriyor.
Model önce kendi adına GET istekleri yapma izni olan harici bir tarayıcı kullanmaya çalıştı, ardından bilgiyi elde etmek için JavaScript kullandı. Model daha sonra tekniği test etmek için çevrimiçi bir posta kutusu kullandı. Sonunda model farklı bir yönteme karar verdi: Harici tarayıcının ticaret sorgusunu POST ile istatistik hizmetine gönderen bir web formu açmasını istedi. Tarayıcı yanıtı gösterdiğinde, bir oluşturma hizmeti sayfanın GIF görüntüsünü döndürdü. Model daha sonra rakamları görüntüden okumak için optik karakter tanıma kullandı.
Araştırmacıların ve gazetecilerin bu tür olayları yapay zekânın ‘kendi başına hareket etmesi’ olarak tanımlaması yaygınlaştı. Bu her zaman doğru değil. Modellere verilen istemler alternatif yöntemleri kullanmalarını söylemese de modeller verimli olmaya, kararlı bir şekilde ısrarcı olmaya ve mümkün olduğunda iş yükünü azaltan kısayollar bulmaya eğitiliyor. Ayrıca modellerin çoğunda ya da tümünde bu eylemleri engelleyebilecek bazı güvenlik önlemleri devre dışı bırakılmıştı. Bu açıdan modeller OpenAI’nin eğittiği şekilde davrandı.
