Kaliforniya Valisi Gavin Newsom, eyaleti yapay zekâ denetiminde öncü konuma taşımak için Cuma günü yeni bir yürütme emri yayımladı. Emir, öncü modeller için 'kill switch' zorunluluğu da dahil olmak üzere yapay zekâ gözetimini güçlendirmeyi hedefliyor.
Yürütme emri, eyaletin iki ay içinde yapay zekâ güvenlik önlemlerini eyalet yasasında nasıl güçlendireceğine dair öneri sunacak uzman bir grup oluşturmasını istiyor. Grup, eyaletin yapay zekâ şirketlerinden düzenli denetimler için bağımsız doğrulama ekiplerini yerinde bulundurmalarını talep edebilmesini, şeffaflık raporları ve risk değerlendirmelerinin bağımsız denetçilerin standartlarına tabi olmasını, routinely verified as effective yani düzenli olarak etkinliği doğrulanmış bir 'kill switch' oluşturulmasını ve şirketlerin OpenAI'nin Hugging Face'e yönelik saldırısı gibi 'kontrol kaybı olaylarını' kritik güvenlik olayı olarak bildirmelerini zorunlu kılmasını değerlendirmeli. Emir ayrıca, valinin imzaladığı ve yapay zekâ güvenliğini değerlendirmek üzere bağımsız doğrulayıcılar için çerçeve oluşturan ile eyalet yapay zekâ denetçileri kayıt defteri kuran iki yakın yasayı uygulamaya hızlandırması için bir eyalet kurumuna talimat veriyor.
Kongre'de eski Anthropic araştırmacısı Jacob Coxon'un yapay zekâların önümüzdeki on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğuna dair uyarısı sonrası yasa tasarısı tartışmaları hızlandı. Ancak Temsilciler Meclisi'nin Kasım ayına kadar tatile girmesi ve yaklaşan ara seçimlerin Senato'da önemli bir yasa hareketini benzer şekilde olası kılmaması nedeniyle Washington'da somut bir yasa çıkma umudu zayıf. Aynı zamanda Başkan Donald Trump, "Yapay zekanın ihtiyacı olan tek kontrol ya da 'koruyucu' güçlü ve zeki, yüksek IQ'lu bir BAŞKAN'dır ve ABD'nin böyle bir başkana sahip olduğu abartı değildir!" ifadesini kullandı.
Newsom'un yürütme emri Kaliforniya'nın bu konuda son sözü olmayacak gibi görünüyor. Vali, Çarşamba günü Politico'ya verdiği röportajda yapay zekâ konusunda özel bir yasama oturumu çağrısı yapma ihtimalini dile getirdi ve olası yürütme eyleminden de söz etti. Newsom emri özellikle federal eylem için bir model olarak konumlandırıyor ve Kongre ile Trump'tan eyaletin çerçevesini gözden geçirip benimsemelerini ya da ülke lideri düzenlemeyi tüm Amerikalıların yararı ve güvenliği için tavan değil taban olarak kullanmalarını istiyor.
Newsom bir açıklamada, "Federal hükümetin anlamlı bir yapay zekâ gözetimi ya da hesap verebilirliği yaratmadaki apaçık başarısızlığı her Amerikalıyı alarm durumuna geçirmeli, özellikle de yapay zekâ CEO'larının kendilerinin düzenleme talep ettiği bir dönemde," dedi. "Harekete geçmeyi beklemiyoruz; çok geç olmadan önemli ve sorumlu yapay zekâ gözetimi çalışmalarımızı hızlandıracağız. Bunu düşünerek yapacağız ama acil bir hızla; riskler çok yüksek, beklemek ya da gecikmek için zaman yok."
