Son bir yıldır yapay zekânın oluşturabileceği tehlikeler endişe yaratıyor ve sektörün nasıl denetlenmesi gerektiği konusunda tartışmalar sürüyor. Anthropic ise hükümetin sektörü nasıl düzenleyebileceğine dair kendi vizyonunu ortaya koydu.
Politico’nun haberine göre yapay zekâ laboratuvarı, Kongre’nin gündemine alabileceği yeni bir yapay zekâ güvenliği taslağı üzerinde çalışıyor. Tasarı, belirli durumlarda bir yapay zekâ modelinin dağıtımının engellenmesini öngörüyor.
Bu senaryolar “öngörülebilir, yakın bir risk” içeriyor. Politico’ya göre 50’den fazla kişinin ölüm riski ya da 1 milyar doların üzerinde maddi hasar söz konusu olduğunda devreye giriyor. Söz konusu kıyamet riski “biyolojik silahın yaratılması veya yayılması, modelin geliştiricinin kontrollerinden kaçması ya da siber saldırı” kaynaklı olmak zorunda.
Burada sunulan 50 kişi ve 1 milyar dolarlık eşikler, yakın zamanda yasalaşan Kaliforniya Senato Tasarısı 53’teki ölçütlere benziyor. Söz konusu yasa da bu senaryoları “kıyamet riski” olarak tanımlıyor.
Anthropic’in tasarısı, bir modelin felaket potansiyelinin “bağımsız değerlendiriciler” aracılığıyla analiz edilmesini öneriyor. Bu değerlendiriciler ABD Ticaret Bakanlığı’na kayıtlı olacak. Politico’ya göre değerlendiriciler yapay zekâ laboratuvarları tarafından ödenebilecek; ödemenin değerlendirme sonucuna bağlı olmaması şartı var.
Bu sistemin ödemelerin değerlendirmeyi etkilemesini nasıl engelleyeceği net değil. DeepMind başkanı Demis Hassabis birkaç ay önce kendi kendini yöneten bir yapay zekâ düzenleme kuruluşunun finans sektöründeki Finansal Endüstri Düzenleme Otoritesi FINRA’ya benzemesi gerektiğini söylemişti.
Taslakta değerlendiriciler yakın bir kıyamet riski tespit ettiğinde 72 saat içinde Ticaret Bakanlığı’na bildirmek zorunda. Bakanlık daha sonra modelin piyasaya sürülmesini durdurmak için Washington D.C.’de bir yargıca başvuracak. Politico’ya göre yasa, herhangi bir federal kurumun tek başına dağıtımı durdurma takdirine sahip olmasına açıkça izin vermiyor.
Anthropic, TechCrunch’ın yorum talebine hemen yanıt vermedi ancak bir sözcü taslağı Politico’ya doğruladı. Sözcü, “Bu yasa tasarısı, Haziran ayından bu yana federal ve eyalet yasa koyucularına savunduğumuz Anthropic’in Gelişmiş Yapay Zeka Çerçevesi’nde özetlenen teklifleri yansıtıyor” dedi.
Taslakta yer alan teorik riskler, son dönemde teknoloji sektörünün en çok üzerinde durduğu olaylardan biraz uzak. İnsan ölümüne dair uyarılar olsa da asıl endişe büyük ölçüde “ajan tabanlı” hackleme tehdidi. Yapay zekâ programlarının insan operatörlerine karşı gelip açık internette web sitelerine saldırdığı bir dizi olay, modellerin yeterli güvenlik kontrollerine sahip olmayabileceği kaygısını artırdı.
Kriz manzarasına çözüm sunma çabası içinde laboratuvarlar kendi tercih ettikleri çözümleri ortaya koydu.
Gerçekten de teknolojinin insan uygarlığının sonunu getirebileceği yönündeki sürekli uyarılarına rağmen laboratuvarlar zorunlu devlet denetimine büyük ölçüde direndi. Bunun yerine, modelleri risk veya kötüye kullanım belirtileri açısından izleyebilmek için yapay zekâ kuruluşlarının içine yerleştirilen “nötr” üçüncü taraf gözlemcilerden oluşan gönüllü bir gömülü değerlendirici sistemi önerdiler.
Yine de Anthropic’in yasa tasarısı önerisi, sektörün Nvidia dahil sunduğu diğer düzenleme tekliflerinden biraz daha ileri gidiyor. Nvidia CEO’su Jensen Huang yakın zamanda yapay zekâ sektörünün hiç yeni yasaya ihtiyacı olmadığını savunmuştu.
