Cato, hükümet tarafından zorunlu kılınan bir yapay zeka duraklamasının inovasyonu engelleyebileceğini ve köklü şirketleri koruyabileceğini savunuyor.
Jack Dorsey de önde gelen geliştiricilerin pazarlık ettiği sınırlamalara karşı çıkıyor ancak felaket risklerini ele almak için kısıtlamaları kabul ediyor.
Yasama organları ve yapay zeka yöneticileri kısıtlamalar için baskı yaparken, analistler gönüllü taahhütlerin tutulup tutulmayacağını sorguluyor.
Libertarian Cato Enstitüsü, yapay zeka geliştirmede hükümet tarafından zorunlu bir duraklamanın baskın şirketleri rekabetten koruyabileceği ve faydalı teknolojinin gecikmesine yol açabileceği uyarısında bulunuyor. Yasama organları ve yapay zeka yöneticileri kısıtlamalar için baskı yapıyor.
Pazartesi günü yayımlanan bir blog yazısında, düşünce kuruluşundaki teknoloji politikası uzmanı Jennifer Huddleston, şirketlerin belirli tehlikeleri gönüllü güvenlik önlemleri ve paylaşılan standartlarla eleleyebileceğini, sektör genelinde geliştirmenin durdurulmaksızın ilerleyebileceğini savundu.
“Hükümet tarafından zorunlu bir duraklama birkaç endişe yaratır ve iddia edilen güvenlik iyileştirmelerini yerine getiremeyebilir” diye yazdı. Hükümet kurallarının yazılmasının yavaş, değiştirilmesinin ise daha da yavaş olduğunu ekledi. “Bugünün modelleri için kurulmuş bir düzenleyici çerçeve yarınınkini aktif olarak engelleyebilir, daha iyi ya da daha güvenli olabilecek yanıtların önüne geçebilir.”
Huddleston yapay zekanın risklerini kabul ediyor ancak önde gelen geliştiriciler etrafında şekillenen kuralların onların güçlerini pekiştirebileceği ve rekabeti sınırlayabileceği konusunda uyarıyor. Bu, küçük şirketlerin rekabet etmesini zorlaştıracak bir piyasa ele geçirme biçimi. Ayrıca ABD’de geliştirmenin durdurulmasının siber güvenlik savunmalarını zayıflatabileceğini, yabancı rakiplerin gelişmeye devam ederken bu durumun ortaya çıkabileceğini savunuyor.
Yorumları, Sen. Bernie Sanders ve Temsilci Greg Casar’ın federal güvenlik standartları oluşturulana kadar ileri yapay zeka geliştirmenin durdurulması ve yapay süper zekanın kalıcı olarak yasaklanması önerisinin ardından geldi. OpenAI CEO’su Sam Altman ise daha yavaş gelişmeyi destekledi ve şirketlerin federal kuralları beklemeden güvenlik önlemlerini güçlendirmesi çağrısında bulundu.
“Bu çağrıların birçoğu, olabilecek en kötü senaryolar hakkında bilim kurgu tadında kıyamet senaryolarıyla birlikte geliyor” diye yazdı Huddleston. “Korku nedeniyle aceleyle düzenleme yapmak, iddia ettiği riski ele almaktan daha uzun vadeli olumsuz sonuçlar doğurabilir.”
Block’un başkanı ve kurucusu Jack Dorsey, Pazartesi günü X’te yaptığı paylaşımda rekabet konusundaki benzer endişelerini dile getirdi.
“Makine zekasını yöneten şirketlerin sesi duyulmayı hak ediyor. Uzmanlıkları ve korumaları gereken ticari çıkarları var” diye yazdı Dorsey. “Kaynakları etrafında kurulan kurallar onları katılabilen tek taraf haline getirebilir. Güvenliğe dair samimi bir endişe bile giriş engeli yaratabilir.”
Dorsey, araştırmacıların inceleyebileceği, değiştirebileceği ve test edebileceği açık yayınları desteklediğini söyledi. Değerlendirmelerin ve bilinen sınırlamaların yayımlanmasını istiyor; böylece dışarıdan gelenler geliştiricilerin güvenlik iddialarını sorgulayabilsin.
“Denetimi destekliyorum. Bugünün liderlerinin pazarlık ettiği sektör çapındaki sınırlamalara karşıyım çünkü bu, hataları ortaya çıkarabilecek ya da alternatifler geliştirebilecek kişileri dışlayabilir” diye yazdı. “Bir şirketin ticari avantajını korumak bir güvenlik amacı değildir.”
Paylaşımında Dorsey, bağımsız testleri ve kamuya karşı hesap verebilir yaptırımı da desteklediğini belirtti. Buna, bir modelin piyasaya sürülmesinin daha dar önlemlerle yeterince ele alınamayacak felaket risklerini maddi olarak artıracağına dair kanıt olduğunda modellerin geri tutulmasının da dahil olduğunu söyledi.
“Hesaplama, geliştirme sınırlandırılmadan denetime tabi tutulabilir. İnceleme, bir düzenleyici ya da rakibin iznini gerektirmez” dedi. “Genel onay gereklilikleri ya da bekleme süreleri istemiyorum. Yayınlamaya getirilen her güvenlik temelli gecikme, felaket riski istisnasıyla gerekçelendirilmelidir.”
Atlantic Council’in yakın tarihli bir analizi, rekabet baskısının uygulanabilir yapay zeka güvenlik standartlarını gerektirdiğini savunuyor. ABD-Çin güvensizliğinin uluslararası anlaşmaları zorlaştırdığı belirtiliyor. İş birliği aynı zamanda antitröst endişelerini de gündeme getiriyor: OpenAI, yasa koyuculara rakip geliştiricilerin yasal olarak geliştirme hızını yavaşlatmak için anlaşmasının mümkün olup olmadığını sordu.
