California Valisi Gavin Newsom, cuma günü 18 Eylül’de imzaladığı bir yürütme emriyle eyaletin yapay zekâ güvenliği ve güvenilirliği konusundaki yasalarını pekiştirmek ve güçlendirmek için bir rehber hazırlaması amacıyla ulusal uzmanları bir araya getirecek. Valilik ofisinin cuma günü yayımladığı basın açıklamasında bu bilgi paylaşıldı.
Yürütme emri, yapay zekâ sistemlerindeki güvenlik ve emniyet risklerine yönelik yeni üçüncü taraf denetiminin uygulanmasını hızlandırmayı amaçlıyor ve uzman grubunun rehberi iki ay içinde teslim etmesini istiyor. Açıklamada bu detay yer alıyor.
Değerlendirme altında olan öneriler arasında, öncü yapay zekâ şirketlerinin laboratuvarlarında denetim ve değerlendirme yapması için bağımsız bir doğrulama kuruluşunu yerinde bulundurma zorunluluğu; California yasası kapsamında öncü yapay zekâ şirketlerinin sunması gereken yapay zekâ güvenlik çerçeveleri, şeffaflık raporları ve risk değerlendirmelerinin doğrulanması; öncü modeller için “kapatma anahtarı” oluşturulmasının ilerletilmesi ve kritik güvenlik olayları tanımının kontrol kaybı olaylarını da kapsayacak şekilde güncellenmesi yer alıyor. Açıklamada bu maddeler sıralandı.
Açıklamaya göre California’da öncü model güvenliği, bağımsız denetim, çocuklar ve arkadaş chatbotları, gizlilik, derin sahte içerikler, dolandırıcılık, siber güvenlik, çalışanlar ve hükümetin yapay zekâ kullanımı konularını kapsayan yasalar zaten bulunuyor.
Newsom açıklamada şunları söyledi: “Federal hükümetin anlamlı bir yapay zekâ denetimi veya hesap verebilirliği oluşturmadaki apaçık başarısızlığı, özellikle yapay zekâ CEO’larının kendilerinin düzenlemeye çağrıda bulunduğu bir dönemde, her Amerikalıyı alarma geçirmeli.” “Harekete geçmeyi beklemiyoruz; kapsamlı ve sorumlu yapay zekâ denetimi konusundaki çalışmalarımızı çok geç olmadan hızlandıracağız.”
PYMNTS, 11 Eylül’de Newsom’un California’nın ülkenin bağımsız yapay zekâ doğrulama kuruluşları ve denetçileri için ilk çerçevesi olarak tanımladığı iki yasa tasarısını imzaladığını ve bağımsız denetimi ürün güvenliği sürecinin parçası hâline getiren bir arkadaş chatbot yasasını da içeren haberini yapmıştı.
Mayıs ayında Newsom, yapay zekânın hızlı ilerlemesiyle öngörülen ekonomik ve iş gücü kesintilerine karşı çalışanları, toplulukları ve küçük işletmeleri hazırlaması için eyalet kurumlarına talimat veren bir yürütme emri imzalamıştı.
Ekim ayında Newsom, çocukları ve savunmasız kullanıcıları yapay zekâ chatbotlarıyla ilişkilendirilen zararlardan korumayı amaçlayan bir yasa tasarısını imzaladı. Bu adımın California’yı bu sanal arkadaşları düzenleyen ilk eyalet hâline getirdiği belirtildi.
Newsom Ekim ayında şunları söylemişti: “Chatbotlar ve sosyal medya gibi yeni teknolojiler ilham verebilir, eğitici olabilir ve insanları birbirine bağlayabilir; ancak gerçek sınırlamalar olmadan teknoloji çocuklarımızı sömürebilir, yanıltabilir ve tehlikeye atabilir.”
