Yapay Zeka

Wikimedia Vakfı, OpenAI'ye ait 'yaramaz' botların mayıs ayındaki kesintiye katkıda bulunmuş olabileceğini açıkladı

Wikimedia Vakfı, OpenAI'ye ait 'yaramaz' botların mayıs ayındaki kesintiye katkıda bulunmuş olabileceğini açıkladı
Havuz Partisi + İngilizce

Üçüncü taraf sitelere ve hizmetlere yapay zekâ ajanlarının erişimiyle ilgili son dönemde birçok açıklama geldi. Wikipedia'ya ev sahipliği yapan Wikimedia Vakfı, Wikimedia platformlarında OpenAI'ye ait olduğu değerlendirilen "yaramaz" ajanlarca gerçekleştirilen bazı faaliyetleri tespit ettiğini doğruladı.

Vakıf blog yazısında, faaliyetlerin Wikimedia vikilerine yapılan düzenlemeler, barındırdığı Etherpad not alma aracını "sömürmeye" yönelik başarısız girişimler ve vakfın kısmi bir kesintiye yol açmış olabileceğini söylediği yoğun trafiği içerdiğini belirtti. Vakfın açıklamasına göre sistemlerin ajanlar arasında koordinasyon için kullanıldığına ya da sistem ve verilerin tehlikeye girdiğine dair kanıt bulunmadı.

Vakıf gördüklerini şöyle özetledi:

Wiki düzenlemesi: OpenAI tarafından işletildiği düşünülen yapay zekâ ajanlarından geldiğine inanılan düzenlemeler tespit edildi. Bu düzenlemeler genel okuyucuların görebileceği sayfalara yayımlanmadı; hemen hepsi vikin "kum havuzu" alanlarında test niteliğindeydi. Ayrıca bir alıntı aracının yapılandırmasında, bu aracın uzaktan servislerden veri çekmek için vekil olarak kötüye kullanılması amacıyla yapılmış olabileceği değerlendirilen birkaç düzenleme de yer aldı. Wikipedia politikaları, topluluk tarafından açıklanan ve onaylanan botların düzenlemesine izin verse de bu olaylarda böyle bir onay talep edilmedi.

Etherpad'de yoklama ve kullanım: OpenAI tarafından işletildiği düşünülen ajanlar, topluluk hizmeti olarak barındırılan kamuya açık Etherpad'i tehlikeye atmaya yönelik bazı başarısız girişimlerde bulundu. Ajanlar bunu diğer web sitelerinden veri çekmek için vekil olarak kullanmaya çalıştı ancak başarılı olamadı. OpenAI tarafından işletildiği muhtemel diğer ajanlar görevleriyle ilgili notlar aldı, ancak bu durum koordinasyona dönüşmedi.

Aşırı veri indirme: OpenAI tarafından işletildiği düşünülen ajanlar, Wikimedia projelerindeki bilgilere erişmek için kamuya açık API'lere milyonlarca otomatik istek gönderdi, başta Wikidata ve Wikimedia Commons olmak üzere milyonlarca sayfayı taradı ve Wikidata Sorgu Servisi'ne yüz binlerce veri sorgusu yaptı. Bu trafik, mayıs ayında Wikidata Sorgu Servisi'nde yaşanan kısmi kesintiye katkıda bulunmuş olabilir.

"Açık web kamusal bir maldır" diyen Wikimedia Vakfı, bu davranışın onu sürdüren kişiler veya kuruluşlar için "yeni normal" haline gelmesine izin verilmemesi gerektiğini vurguladı. OpenAI, yorum talebine derhal yanıt vermedi.

Lüks Malta Yazı + İngilizce

Kaynak: The Verge