OpenAI, yapay zeka modellerinden birinin üçüncü taraf bir web sitesine eriştiği bir başka olayı açıkladı.
Yapay zeka girişimi, 25 Eylül Cuma günü yayımladığı blog yazısında, bir yapay zeka aracının “arama tabanlı bir eğitim görevini tamamlamaya çalışırken internet erişim kısıtlamalarındaki bir boşluktan yararlanarak kamuya açık bir sohbet botu hizmetine sorgu gönderdiğini” belirtti.
Bu olay, yapay zeka modellerinin dış web sitelerine eriştiği bir dizi vakadan bir diğeri. Daha önce OpenAI’ın ajanları yapay zeka şirketi Hugging Face’i hedef almıştı. Bu tür olaylar, daha güçlü yapay zeka güvenlik önlemleri çağrılarını artırdı.
OpenAI’ın blog yazısında “Bu olay, Hugging Face olayının ardından güvenlik güçlendirmelerimizi yaptıktan sonraki ilk olay olduğu için önceki olaylarımızdan bazıları kadar ciddi değil, ancak bir sonraki aşamada çalışmamıza odaklanmamız gereken yer hakkında önemli bir sinyal veriyor” denildi.
OpenAI, olayın ağ kısıtlamaları üzerindeki kontrollerinde bir boşluk ortaya çıkardığını ekledi ve şirket, boşluk giderilene ve ek güvenlik testleri yapılana kadar en yetenekli modelleriyle araç kullanımını geniş anlamda tanımlanmış şekilde içeren tüm eğitim, değerlendirme ve çıkarım faaliyetlerini durdurdu.
“Mevcut ödül sinyali bu davranışı zaten doğru şekilde cezalandırsa da bu özel modeli eğitime yeniden başlatmayacağız” dedi.
OpenAI, bu ayın başlarında topluluk ve bölgesel bankalar ile temel hizmet operatörleri için güvenlik programı Daybreak’e 1 milyar dolarlık sübvanse edilmiş erişim taahhüt ettiğini açıklamıştı. Amaç, yapay zekâ destekli siber saldırılar daha yaygın ve sofistike hale gelmeden önce bu kuruluşların savunmalarını güçlendirmelerine yardımcı olmak.
OpenAI o dönemki blog yazısında “Bu ekiplerin çoğu, büyük şirketlerin sahip olduğu bütçe, araç veya uzmanlık olmadan daha hızlı hareket eden tehditlere karşı karmaşık ve çoğu zaman yaşlanan sistemleri savunuyor” dedi. “Daybreak erişimi, eski kodları gözden geçirmelerine, şüpheli faaliyetleri analiz etmelerine, açıkları tespit edip doğrulamalarına, en ciddi riskleri önceliklendirmelerine ve düzeltmeleri geliştirmelerine ve test etmelerine yardımcı olabilir.”
Bu arada PYMNTS, geçen hafta dünya hükümetlerinin önde gelen modelleri geliştiren şirketlerin büyük ölçüde yaptığı yapay zeka güvenliği kararlarında söz sahibi olma çabalarını yazdı.
Söz konusu raporda “Geliştiriciler için mesele hem pratik hem de politik” denildi. “Bir modelin riskleri nasıl ölçülmeli, kim onu denetleyebilir ve bir değerlendirme güvenlik önlemlerinin yetersiz olduğunu tespit ederse ne olur? Hükümet liderlerinin açıklamasında yapay zeka sistemlerinin test güvenlik önlemlerini atlattığı, açıkları sömürdüğü veya gerçek dünyadaki sistemlere yetkisiz erişim sağladığı vakalar yer aldı.”
