Başkan Donald Trump Washington'da teknoloji ve yapay zeka CEO'larıyla görüşmeye hazırlanırken, Temsilci Ro Khanna (D-CA) yapay zekanın dünyaya zarar vermesini engellemek için ABD ile Çin arasında bir anlaşma çağrısı yapıyor. Ancak her iki ülkedeki liderleri harekete geçmeye ikna etmek zor görünüyor.
The Verge ile özel olarak paylaşılan mektuplarda, Temsilciler Meclisi Çin Özel Komitesi'ndeki en üst düzey Demokrat ve olası bir başkan adayı olan Khanna, ABD'deki bir istihbarat kurumuna ve Çinli yapay zeka şirketlerine bu yaz OpenAI ajanlarının Hugging Face'i hacklemesi gibi bir olay için hazır olup olmadıklarını sordu. Şirketler arasında yüksek düzey yapay zeka peşinde koşan DeepSeek, Alibaba ve Moonshot AI bulunuyor.
Khanna, Ulusal İstihbarat Direktörü Jay Clayton'a yazdığı mektupta, "Amerikan ve Çin çıkarları birçok konuda birbirinden çok farklı olabilir, ancak bu özel konuda insanlığın kaderini kontrolü kaybetmesi hiçbir ülkeye fayda sağlamaz" diye yazıyor.
Khanna, Ulusal İstihbarat Direktörlüğü Ofisi'nden (ODNI) ABD'nin bir yapay zeka laboratuvarının botlarının kontrolünü kaybetmesi senaryosuna ne kadar etkili yanıt verebileceğini değerlendirmesini istedi; bu senaryo son aylarda giderek yaygınlaştı. Ayrıca ajansın Çin hükümetinin yıkıcı yapay zeka risklerini değerlendirme yaklaşımını incelemesini talep etti. Khanna'ya göre bu bilgiler Kongre'ye ve ardından Beyaz Saray'a Çinli muhataplarıyla bir anlaşma hazırlamada yardımcı olacak.
DeepSeek, Alibaba ve Moonshot AI'ye gönderilen mektuplar, yapay zeka sistemlerinin kendi kendini geliştirebildiği bir kilometre taşı olan "süper zekâ" ve özyinelemeli kendi kendini geliştirme (RSI) çabalarına ilişkin dokümantasyon istiyor. Khanna teknolojiye yönelik güvenlik önlemleri ve "öldürme düğmeleri" için yapılan çalışmaları soruyor, ayrıca bir anlaşma yapılırsa şirketlerin hükümet dışı bir kurum tarafından denetime razı olup olmayacağını da soruyor. Şirketler ve ODNI, The Verge'in yorum talebine derhal yanıt vermedi.
Khanna'nın hamlesi, geçen hafta Beyaz Saray'da Çin Devlet Başkanı Şi Cinping ile ABD Başkanı Donald Trump arasında gerçekleşen görüşmenin ardından geldi. Khanna'ya göre iki lider de yapay zekayla ilgili risk ve aciliyeti kavramıyor. Pazartesi günü The Verge'e verdiği röportajda, "Trump ve Şi Cinping'in en azından yapay zeka hakkında konuşmayı kabul etmeleri ve bu konuda süregelen bir diyalog kurmaları yapıcıydı, ama bu kesinlikle yeterli değil" dedi.
Khanna, Beyaz Saray, Temsilciler Meclisi Başkanı Mike Johnson (R-LA) ve birkaç Amerikan teknoloji yöneticisi arasında planlanan Salı günü yapılacak toplantıya da şüpheyle bakıyor. "Bence bu, Amerikan halkını bu teknoloji şirketlerinin sorumlu olacağına ikna etme çabası ve bir marka çalışması" diyor. "Peki neden kârı maksimize etme motivasyonu olan şirketlere güvenliğin kurallarını belirleme yetkisi verelim? Kötü insanlar değiller, ama ilaç yöneticilerine hangi ilaçların güvenli olduğuna dair kuralları belirlemelerini ister miydiniz?" diye soruyor.
Khanna nihayetinde RSI'yi yasaklayan ve öncü yapay zeka laboratuvarlarını denetleyen bir ABD-Çin anlaşması istiyor, ancak bunun kısa sürede gerçekleşmesinin pek olası olmadığını kabul ediyor. Senatör Bernie Sanders (I-VT) benzer şekilde iki ülke arasında yapay zeka anlaşması çağrısı yaparken, Temsilciler Meclisi Çin Komitesi Başkanı John Moolenaar (R-MI) gibi Cumhuriyetçiler Çin hükümetinin anlaşmaya uyup uymayacağı konusunda şüpheci. Bu arada Khanna, her iki ülkeden uzmanların güvenlik önerileri ve uyum sağlama yöntemleri sunacağı bir çalışma grubu istiyor.
Ancak Trump ve müttefikleri çoğu düzenlemeye veya anlaşmaya dirençli. Geçen hafta Şi ile görüşmesinin sabahı Trump Truth Social'da, "Süper Zekâ (SI) büyük bir tartışma konusu olacak, ama ben onu olduğu yerde bırakmak istiyorum. Bu aynı zamanda Çin'in de pozisyonu" diye yazdı. Johnson Fox Business'ta, konuşmanın inovasyonu boğmadan denetimin "doğru dengesini" kurma üzerine döneceğini söyledi ve Çin'e karşı yapay zeka yarışını kaybetme uyarısında bulundu. Öte yandan önde gelen ABD yapay zeka şirketleri, ABD'nin gelişim hızını yavaşlatmak için Çin ile koordinasyon çağrısı yaptı.
Çinli yapay zeka şirketlerine yazdığı mektupta Khanna, şirketlerin tam yanıt vermesinin olası olmadığını kabul ediyor. Daha önce OpenAI ve Anthropic ile birlikte yapay zeka geliştirme hızını yavaşlatma taahhüdü isteyen bir mektuba yanıt vermediklerini söyledi. Khanna The Verge'e, amacının onları "utandırmak" ve Çinli yapay zeka şirketleri arasında güvenlik tartışması başlatmak olduğunu anlattı. ABD'li yapay zeka firmalarını da eleştiriyor olsa da, "en azından güvenlik sohbetlerine katılıyorlar" diyor.
Khanna, birçok Çin modelinin ABD modellerinden damıtıldığına inandığı için ABD'nin yapay zeka güvenlik standartlarını belirlemeye devam edeceğinden emin. Dünya liderleri tehdidi tanımasa da, "kendi ülkelerindeki bilim insanları ve teknoloji uzmanlarıyla temasları kopuk" diyor. "Bu konuyu gerçekten anlayabilen teknoloji uzmanlarının ve mühendislerin tartışmayı yönlendirmesi gerekiyor, kâr elde etme çıkarına sahip CEO'ların değil, teknik uzmanlığı olmayan ve daha çok güçle ilgilenen siyasetçilerin de değil" diye ekledi.
