İki ABD'li ve Çinli güvenlik uzmanı, yapay zekanın nükleer sistemlere bağımsız saldırıda bulunmasını engelleyen kırmızı çizgiler önerdi.
Yazarlar ayrıca askeri yapay zeka için bir sıcak hat ve insan kontrolünün ortak tanımı çağrısında bulundu.
Yapay zekanın hızı ve belirsiz davranışı, liderlerin tırmanan bir çatışmayı durdurması için çok az zaman bırakabilir.
Amerika Birleşik Devletleri ve Çin'den güvenlik uzmanları, yapay zekanın nükleer komuta sistemlerine karşı siber saldırı başlatmasını veya nükleer silah kullanma kararını bağımsız olarak vermesini yasaklayacak kurallar önerdi.
Brookings ve Şanghay merkezli Fudan Üniversitesi'nin yakın tarihli bir raporu, ABD ve Çin'in nükleer silahların insan kontrolüne yönelik taahhüdünü, nükleer komuta sistemlerine yönelik siber saldırılar da dahil olmak üzere yapay zekanın askeri kullanımlarına genişletmesi çağrısında bulunuyor.
“Başkanlar Donald Trump ve Xi Jinping, birbirlerinin nükleer komuta, kontrol ve iletişim sistemlerine (NC3) veya kritik altyapısına yönelik siber saldırı başlatma kararını yalnızca insanların, yapay zekanın değil vermesi konusunda anlaşarak bu tehlikelerin yönetiminde öncülük edebilir,” araştırmacılar yazdı.
NC3 sistemleri hükümetlerin tehditleri tespit etmesine, nükleer silah kullanıp kullanmamaya karar vermesine ve fırlatma emirlerini iletmesine yardımcı olur, ancak herhangi bir aşamadaki başarısızlık iletişimleri bozabilir, bir saldırıyı yanlış okuyabilir, ilk saldırıyı teşvik edebilir veya kazara ya da yetkisiz bir fırlatmayı tetikleyebilir.
“Nükleer silahlara uygulanan ilkenin genişletilmesi—stratejik etkileri olan saldırıların insan niyetini yansıtması ve insan sorumluluğuna tabi olması gerekmektedir—Washington ve Pekin'in siber güvenlik veya altyapı koruması konusunda diğer ilkeleri paylaşmasını gerektirmez,” araştırmacılar yazdı.
Önerilen anlaşma, her iki ülkenin de şansın, insan hatasının, öngörülemeyen yapay zekanın veya yetkisiz aktörlerin stratejik sonuçlar doğuracak saldırıları tetikleme riskini azaltmasını gerektirecek.
Nükleer tarzı güvenceler çağrısı, yapay zeka gelişimini yavaşlatma ve giderek daha yetenekli sistemleri insan kontrolü altında tutma konusunda büyüyen tartışmanın bir parçası. Endişe özellikle orduda yoğun; milisaniyeler içinde alınan otomatik kararlar, yanlış bir uyarıyı veya siber saldırıyı nükleer krize çevirebilir.
Bu endişe Şubat ayında OpenAI, Google ve Anthropic modellerinin test edilen savaş oyunu senaryolarının %95'inde nükleer silah kullandığında daha da belirginleşti, uzmanlar simülasyonun tırmanmayı teşvik etmiş olabileceği konusunda uyarıda bulundu.
Aynı ay Anthropic, Claude'un kitlesel gözetim ve tamamen otonom silahlar üzerindeki kısıtlamalarını kaldırması yönündeki Pentagon taleplerini reddetti. Trump federal kurumların şirketin teknolojisini kullanmasını durdurmasını emretti, ancak federal bir yargıç 28 Ağustos'ta yönetimin Anthropic'e karşı yasa dışı şekilde misilleme yaptığına hükmetti.
Ölçülü davranma çağrıları sektör genelinde yayıldı. Bu ayın başlarında Anthropic CEO'su Dario Amodei, geliştiricilerin yetenek artışını yavaşlatması çağrısında bulundu ve OpenAI CEO'su Sam Altman ile xAI sahibi Elon Musk'tan destek aldı, OpenAI ise şirketlerin antitröst yasasını ihlal etmeden yavaşlamayı koordine edip edemeyeceği konusunda Kongre'ye soru yöneltti.
Bağlayıcı bir yavaşlama olmaksızın, Brookings yazarları daha dar bir kural öneriyor: Nükleer komuta sistemlerine saldırı veya nükleer silah kullanımı yalnızca insanlar tarafından yetkilendirilmeli.
“Askeri yapay zekanın yönetişimi, bekleyebileceği bir pazarlık değil—zamanla yarışmaktır,” diye yazdılar.
