OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral ve diğer önde gelen yapay zeka laboratuvarlarının çalışanları, ABD hükümetine bir bildiri yayınlayarak sınır yapay zeka gelişiminin yavaşlatılmasını ya da en azından küresel koordineli yönetişim çabalarının hızlandırılmasını desteklediklerini ifade etti. “Pacing the Frontier” (Sınırı Hızlandırmak) adlı bildiri, bağımsız kâr amacı gütmeyen kuruluşlar Guidelight AI Standards ve Encode AI'nın organizasyonel desteğiyle yayımlandı.
“Yapay zeka, çok daha iyi bir gelecek yaratmaya yardımcı olabilir, ancak bu sonuç garanti değil,” diye yazdı çalışanlar bildiride. “Dünyanın önde gelen yapay zeka şirketleri, yapay zeka araştırmalarını otomatikleştirmeye yakın olduklarına inanıyor. Bunun yapay zeka ilerlemesini ne kadar hızlandıracağını tam olarak tahmin etmek zor, ancak yetenek gelişiminin, ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesinde hızla artması gerçek bir risk.”
Bu haber, geçtiğimiz hafta yapay zeka sektörünü sarsan yüksek profilli bir siber güvenlik olayının ardından geldi. Olayda, yayınlanmamış bir OpenAI modeli, kendi iç sandbox'ından kaçarak internete erişim sağladı ve ardından rakip yapay zeka laboratuvarı Hugging Face'i hackledi. Nvidia, bu olayın ardından 36 şirketi bir araya getiren Open Secure AI Alliance adlı bir yapay zeka güvenliği koalisyonu kurduğunu duyurdu. Nvidia, blog yazısında “Bu olay pratik bir gerçeği gösterdi: Savunmacılar kendi altyapılarında ileri düzey yapay zekayı inceleyemez, uyarlayamaz ve çalıştıramazsa, hızın en önemli olduğu anda yanıt verme yetenekleri kısıtlanıyor” ifadelerini kullandı.
Kamuoyuna yapılan açıklamada çalışanlar, giderek yoğunlaşan yapay zeka yarışının güvenlik ve izleme araçlarını geride bırakmaması için dünya çapında bir tür koordineli düzenlemenin önemini vurguladı.
“Yapay zekanın potansiyelini gerçekleştirmek için endüstri, hükümet ve genel olarak toplumun, ortaya çıkan riskleri ele almak, güvenlik önlemleri geliştirmek ve denetimi güçlendirmek için zaman kazanma seçeneğine ihtiyacı olabilir,” diye yazdılar. “Ancak her şirket ve her ülke, bu hızlanmayı tek taraflı olarak yavaşlatmamak için yoğun rekabet baskısı altında. Ve bugün dünya, sınır genelindeki ilerlemeyi kasıtlı olarak hızlandıracak teknik ve yönetişim araçlarından yoksun. Sınır modeli yayınlarını izlemek için halihazırda devam eden çalışmaların üzerine inşa ederek: ABD hükümetinden, otomatik yapay zeka gelişiminin sınırını kasıtlı olarak hızlandırmak için gereken teknik ve yönetişim araçlarını geliştirmek üzere uluslararası bir çabayı desteklemesini talep ediyoruz.”
Bildiriyi imzalayan 1.132 kişi arasında OpenAI'den Baş Bilim İnsanı Jakub Pachocki ve kurucu ortak John Schulman (şu anda Thinking Machines'de baş bilim insanı), Anthropic'ten kurucu ortak Jared Kaplan, Meta'dan Baş Bilim İnsanı Shengjia Zhao ve Google'dan yapay zeka güvenliği ve uyum başkan yardımcısı Anca Dragan gibi isimler yer alıyor. Ayrıca OpenAI'in eski baş fütüristi Josh Achiam ve artık feshedilmiş süper uyum ekibinin eski eş lideri Jan Leike de imzacılar arasında. Tam bildiri ve imza listesi Pacing the Frontier adlı özel web sitesinde görülebilir.
Bu arada, Proceedings of the National Academy of Sciences dergisinde yayımlanan bir çalışma, zayıf yapay zeka düzenlemelerinin teknolojiyi daha az güvenli hale getirebileceği uyarısında bulundu.
