Senatör Bernie Sanders (I-VT) ve Temsilci Greg Casar (D-TX), yapay süper zekanın geliştirilmesini herkese yasaklayacak yeni bir yasa tasarısı sundu. Tasarıda süper zeka, hükümeti devirerek de olsa insanlığın "yok edilmesi veya güçsüzleştirilmesi" kapasitesine sahip bir teknoloji olarak tanımlanıyor. Ban Artificial Superintelligence Act kapsamında yasayı ihlal eden yapay zeka liderleri 20 yıla kadar hapis cezası ile karşı karşıya kalacak.
Tasarı sadece daha güçlü süper zekayı hedeflemiyor. ABD'nin resmi belgelerde "AI" yerine kullanacağını söylediği bir terim olan süper zekanın yanı sıra, yasa koyucuların belirli bir veri eşiğiyle eğitilmiş öncü modeller olarak sınıflandırdığı ileri yapay zeka sistemlerinin geliştirilmesi de durdurulacak. Yasaya göre ileri yapay zeka geliştirme, teknolojiyi denetlemek üzere hükümetin bilim insanları liderliğinde bir Yapay Zeka Bakanlığı kurmasının ardından ancak devam edebilecek. Bu kurum öncü yapay zeka modellerini izlemenin yanı sıra tehlikeli özelliklerin kaldırılmasını sağlayacak ve yapay süper zekanın "yok edilmesini denetleyecek".
Sanders ve Casar'ın tasarısı, yapay zeka şirketlerinin ileri modeller geliştirebilmek için Yapay Zeka Bakanlığı'ndan izin almasını da zorunlu kılıyor. Bir yapay zeka şirketindeki bir lider bu kurallardan herhangi birini ihlal ederse 20 yıla kadar hapis cezası alabilecek. Tasarının tek sayfalık özetine göre bu ceza, "yasadışı şekilde nükleer silah geliştirme" ile ilgili mevcut cezalara benzer. Cezanın uygulanması, kuralları çiğneyen ancak bir yapay zeka şirketinde çalışmayan "aykırı aktörler" için de geçerli olacak.
Yeni tasarı, yapay zekanın hızlı gelişimiyle ilgili endişelerin artması ve sürecin yavaşlatılması çağrıları eşliğinde geldi. Yapay zeka modellerinin test ortamlarından kaçtığı ve diğer şirketlere sızdığı yönündeki haberlerin ortasında, eski bir Anthropic araştırmacısı bu ay başında yapay zekanın on yılın sonuna kadar tüm insanları "öldürme" ihtimalinin yüzde 10'un üzerinde olduğunu söyledi. Geçen hafta Kaliforniya Valisi Gavin Newsom, öncü modeller için bir "öldürme düğmesi" önerdi. Genel olarak olası düzenleme hâlâ belirsiz görünüyor.
Senatör Sanders basın açıklamasında, "Uçuruma doğru yarışıyorsanız sadece gaza basmayı hafifletmezsiniz. Freni çekersiniz" dedi. Sanders, "İnsanoğlunun geleceği söz konusu olduğunda, bir avuç Büyük Teknoloji CEO'suna kendi kurallarını yazdırmayız" ifadelerini kullandı.
