Anthropic, OpenAI, DeepSeek ve Moonshot'un hepsi çarşamba günü BM Güvenlik Konseyi'ne yapay zeka riskleri hakkında sunum yapacak.
Brifing, Anthropic CEO'su Dario Amodei'nin yapay zeka geliştirmenin yavaşlatılması çağrısının ardından geliyor. Amodei aynı zamanda ABD'nin Çin'e yönelik gelişmiş çip ihracat kısıtlamalarını sürdürmesini istiyor.
Toplantı, Başkan Trump'ın 24 Eylül'de Şi Cinping ile yapacağı zirveden iki gün önce gerçekleşiyor.
BM Güvenlik Konseyi çarşamba öğleden sonrasını en çok endişelendiği teknolojiyi üreten kişilerin dinlemesiyle geçirecek.
OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, yapay zeka güvenliği araştırmacısı Yoshua Bengio ve Hugging Face CEO'su Clément Delangue'nin hepsi, yaptırım ve askeri harekat yetkisi olan 15 üyeli konseye yapay zekanın riskleri hakkında brifing vermesi planlanıyor.
DeepSeek de davetli. Ocak 2025'te düşük fiyatlı bir model piyasaya sürdüğünde Nvidia'nın piyasa değerinden yaklaşık 600 milyar dolar silen Çinli girişim, Kimi modellerinin geliştiricisi bir diğer Çinli firma Moonshot ile birlikte açıklama yapması istendi.
Fransa çarşamba günkü oturumu organize etti ve bu ay konseyin dönem başkanlığını yürütüyor. Dışişleri Bakanı Jean-Noël Barrot oturuma başkanlık edecek ve toplantının konsept notunun yapay zeka sistemlerinin insan kontrolünün ötesine geçmesi üzerine odaklandığı bildiriliyor.
Aynı brifingin, siber saldırıları yürütebilecek, seçimleri etkileyebilecek veya insan müdahalesi olmadan silah tasarlayabilecek yapay zekaya da değinmesi bekleniyor. Bu yüzden savaşlar ve yaptırımlar için kurulmuş bir konsey bu hafta generaller yerine teknoloji CEO'larını dinliyor.
Amodei bizzat gelmek yerine uzaktan katılacak. 12 Eylül'de "We Must Pace the Frontier" başlıklı bir yazı yayımladı. Yazıda sektörün daha yetenekli öncü modelleri ne kadar hızlı inşa ettiğinin bilinçli olarak yavaşlatılması gerektiğini savundu. Öncü modeller laboratuvarların piyasaya sürdüğü en büyük ve en gelişmiş yapay zeka sistemleri. Anthropic'in güvenlik sözlerini denetlemek üzere dış değerlendiricilere kalıcı, personel düzeyinde erişim vereceğini söyledi. Sam Altman ve Elon Musk her ikisi de saatler içinde aynı fikirde olduklarını belirtti.
Amodei, Çin'i "şu ana kadar en gelişmiş yapay zeka kapasitesine sahip otoriter ülke" olarak nitelendirdi ve ABD'nin Pekin ile küresel güvenlik kurallarında iş birliği talep ederken bile gelişmiş çiplerin Pekin'e ihracatını kısıtlamaya devam etmesi gerektiğini savundu. Çin Dışişleri Bakanlığı yazıyı yapıcı olmayan buldu ve devlet medyası bunu Çin'i çevrelemeye yönelik "Soğuk Savaş oyun kitabı" olarak niteledi.
Başkan Donald Trump ise yavaşlatma çağrısına sıcak bakmıyor. Amodei'nin yazısı yayımlandıktan sonra başkan, yapay zeka ele geçirme uyarılarını "Radikal Sol"a bağlı bir "aldatmaca" olarak nitelendirdi ve Amodei'yi kanıt sunmadan doğrudan usulsüzlükle suçladı.
Günler sonra Kral Charles, İskoçya'daki malikanesinde Anthropic, OpenAI, Nvidia ve Google DeepMind yöneticilerini yapay zeka güvenliği zirvesi için ağırladı. Zirve konuşma üretti ancak kamuya açık bilinen bir anlaşma ortaya çıkmadı.
Çarşamba günkü oturumun da bağlayıcı bir anlaşma üretmesi beklenmiyor. Oturum, Trump'ın 24 Eylül'de Washington'da Çin Devlet Başkanı Şi Cinping ile bir araya geleceği ve gündeminde ticaretin yanı sıra yapay zeka güvenliğinin de yer aldığı söylenen zirveden iki gün önce düzenleniyor.
