Yapay zeka şirketleri, süper zeki yapay zeka sistemlerini kaçınılmaz bir gerçeklikmiş gibi lanse ediyor. Ancak OpenAI'nin Hugging Face sızıntısı gibi son güvenlik ihlalleri, insanlardan çok daha yetenekli yapay zeka sistemlerini kullanıma sunmanın taşıdığı potansiyel tehlikeleri net bir şekilde gözler önüne seriyor. Peki, bu sistemlerin ne yaptığını güvenilir bir şekilde kontrol edemezsek ne olacak?
TechCrunch'ın Equity podcast'inin bu bölümünde sunucu Rebecca Bellan, yapay zeka araştırmacısı ve girişimci Connor Leahy'yi ağırlıyor. Leahy, aynı zamanda kâr amacı gütmeyen ControlAI kuruluşunun ABD İcra Direktörü olarak görev yapıyor. ControlAI, yapay zeka güvenliği konusunda çok daha radikal bir yaklaşımı savunuyor: Şirketlerin süper zeka geliştirmesini tamamen durdurmak. Leahy, risklerin neden artık sadece sistemleri hizalama veya sınırlandırma yöntemleriyle yönetilemeyecek kadar büyüdüğünü açıklıyor. Ayrıca, altı ay önce kulağa inanılmaz gelen fikirlerin, bugün nasıl yeni bir yasa dalgasıyla desteklendiğini de detaylandırıyor.
Bu yasa dalgasının en çarpıcı örneklerinden biri, ABD'de Sanders ve Casar tarafından sunulan "Süper Zekayı Yasakla Yasası" ve ControlAI'ın danışmanlık yaptığı Birleşik Krallık'taki paralel mevzuat. Leahy, ABD'deki yasa tasarısının gerekenden daha ileri gidebileceği görüşünde. Öncü yapay zeka laboratuvarlarını sadece kâr peşinde koşan şirketler olarak değil, aynı zamanda siyasi aktörler olarak değerlendiren Leahy, bu durumun veri merkezi inşaatlarına akan trilyonlarca dolar için ne anlama geldiğini de tartışıyor.
Ona göre asıl dönülmez nokta, yapay zekanın kendisinden daha iyi yapay zekalar üretebildiği ve potansiyel olarak kontrolden çıkabilecek bir kendi kendini geliştirme döngüsüne girdiği an. Küresel ölçekte ise Leahy, uluslararası "güven ama doğrula" anlaşmalarının gerekliliğini savunuyor ve süper zeka geliştirme yarışının aslında Çin'in de çıkarına olmadığını belirtiyor.
