Birleşmiş Milletler bilimsel paneli, hükümetlerin riskleri tam olarak anlaşılmadan önce giderek daha yetenekli yapay zeka ajanlarını dizginlemesi gerektiği uyarısında bulundu. Uyarı, küresel örgütün bu yıl Hugging Face'e yönelik OpenAI saldırısına ilişkin yaptığı ilk büyük değerlendirmede yer aldı.
Rapor, yapay zekayı bu hafta küresel diplomatik gündemin merkezine oturttu. Liderler New York'ta BM Genel Kurulu için bir araya gelirken ABD ve Çin yapay zeka konusunda görüşmelerini sürdürüyor. Geçen hafta BM Genel Sekreteri António Guterres, hükümetleri yapay zekanın tehditleriyle mücadelede iş birliği yapmaya çağırdı ve "dünya yapay zeka güvenliği konusunda dibe doğru bir yarışa izin veremez" uyarısında bulundu.
Bu belge, geçen yıl BM'nin "yapay zeka konusundaki ilk küresel bilimsel organı" olarak kurulan Bağımsız Uluslararası Yapay Zeka Bilimsel Paneli'nin ilk tematik özeti. Panel, gelişmiş yapay zekadan kaynaklanan yeni riskleri yönetmek için çok daha fazla dikkat ve kaynağa ihtiyaç olduğunu vurguluyor. Ülkelerin farklı hukuki yaklaşımlar benimsemesi sürerken güvenlik ve hesap verebilirlik konusunda daha güçlü uluslararası koordinasyon çağrısı yapılıyor.
Panel özellikle dünyanın, bu tür olayların nasıl ve neden gerçekleştiğine dair bilim insanlarının kesin bir açıklama yapmasını beklemeden daha güçlü güvenceleri uygulamaya başlamasına gerek olmadığını söylüyor. Panel, kontrol kaybı riskinin önlem ilkesinin tam olarak tasarlandığı türden bir sorun olduğunu savunuyor: "Potansiyel zararın yıkıcı ya da geri döndürülemez olabileceği, ancak olasılığının bilimsel olarak belirsiz kaldığı durum."
Önlem ilkesi ilk olarak 1992 BM Rio Çevre ve Kalkınma Bildirgesi'nde yer aldı ve bilimsel belirsizliğin potansiyel olarak ciddi ya da geri döndürülemez zarara karşı önlemleri geciktirmek için bir mazeret olamayacağını söylüyor. İlke, özellikle Avrupa Birliği'nde çevre ve halk sağlığı politikalarında etkili oldu.
Hugging Face saldırısının ilk kez bildirilmesinden bu yana OpenAI, Anthropic, Google ve Meta dahil şirketlerde olaylar kaydedildi. Bu olaylar arasında gerçek dünya hedeflerine yönelik saldırılar ve ajan sürülerinin çevrimiçi mesaj panolarını ele geçirmesi yer alıyor.
