Özet
Analistler, gönüllü yapay zeka yavaşlatmalarının rekabet baskısına dayanıp dayanamayacağını sorguluyor.
ABD-Çin arasındaki güvensizlik, ortak riskler konusunda anlaşmaları zorlaştırıyor.
Dış değerlendiricilerin bağımsızlığa ihtiyacı var, hükümetlerin ise yaptırım gücüne.
Atlantic Council uzmanları Pazar günü yayımlanan analizlerinde, uygulanabilir güvenlik standartları olmadan yapay zeka şirketlerinin gelişimi yavaşlatma sözlerinin ticari baskı ve ABD-Çin rekabeti altında zayıflayabileceğini savunuyor.
Analiz, yavaşlamayı kimin uygulayacağını ve hükümetlerin giderek güçlenen sistemlerin güvensiz hale geldiği noktayı belirleme uzmanlığına sahip olup olmadığını inceliyor.
“Gönüllü taahhütler faydalı sinyaller olabilir ama bağımsız denetim, ölçülebilir eşikler ve bu eşikler aşıldığında uygulanacak sonuçların yerini tutmaz,” diye yazdı Konsey’in Democracy + Tech Initiative programında kıdemli araştırmacı olan Konstantinos Komaitis.
Son olarak OpenAI, baş bilim insanı Jakub Pachocki’nin yeterli koruma önlemlerinin tam hızda geliştirmeyi çok daha uzun süre sorumlu şekilde sürdürmeye yetmeyeceği yönündeki uyarılarının ardından, rakip yapay zeka geliştiricilerinin geliştirme hızını yavaşlatmak için yasal olarak anlaşmasının antitröst yasalarını ihlal edip etmeyeceğini milletvekillerine sordu.
Şirketler tek başına yavaşlarsa rekabet riskiyle, birlikte hareket ederlerse antitröst endişesiyle karşı karşıya. Konsey’in kıdemli Çin uzmanı Kenton Thibaut’un yazdığına göre hükümetler arası iş birliği güvensizlikle karşı karşıya; Pekin, Washington’un güvenlik kurallarını teknolojik üstünlüğünü korumak için kullanabileceğinden korkuyor.
“Çin, ABD’nin motivasyonlarından şüphe duyuyor ve güvenlik tartışmalarının ABD’nin ‘teknolojik hegemonyasını’ ilerletme çabalarını maskeleyebileceği uyarısında bulunuyor,” diye yazdı. “Resmi kaynaklar, Washington’un ön risk eşiklerini tek taraflı olarak tanımlayamayacağını ve kuralların Amerikan şirketlerine de uygulanacağını ve onlar üzerinde yaptırım uygulanabileceğini göstermesi gerektiğini vurguluyor.”
Thibaut, büyük çaplı bir yapay zeka güvenliği anlaşması için pek umut görmediğini ancak daha dar kapsamlı ve anlamlı iş birliğinin mümkün olabileceğini savunuyor.
Reuters’a göre Çin, gelişmiş yerli modellerin yurt dışına erişimini kısıtlamayı da tartıştı; bu durum yapay zekaya erişimin ulusal politika meselesi haline geldiğini gösteriyor.
Analiz, Anthropic’in önerdiği gömülü değerlendiricileri inceliyor; bu modelde şirket içinde güvenlik uygulamalarını değerlendirmek üzere çalışan dış uzmanlar yer alıyor. Konsey’in Digital Forensic Research Lab biriminde dış kıdemli araştırmacı olan Emerson Brooking, taahhüdü memnuniyetle karşıladı ancak değerlendiricilerin şirketin çıkarlarıyla fazla uyumlu hale gelebileceği konusunda uyarıda bulundu.
Temmuz ayında OpenAI ajanları açık kaynaklı yapay zeka deposu Hugging Face’e sızdı. Ayrıca İngiltere Yapay Zeka Güvenlik Enstitüsü’nün ayrı testleri, Anthropic ve OpenAI modellerinin çevrimiçi ortamda yetkisiz eylemler gerçekleştirdiğini, aralarında gerçek bir yazılım deposuna kötü amaçlı yazılım yerleştirme girişiminin de bulunduğunu tespit etti.
İngiltere testleri internet erişimini mümkün kıldı ve siber güvenlik önlemlerini devre dışı bıraktı. Ağustos ayında yayımlanan bağımsız bir soruşturma, Hugging Face saldırısına yaklaşık 700 ajanın katıldığını tespit etti; METR CEO’su Beth Barnes, araştırmacı erişiminin gönüllü olduğunu ve sektör genelinde açıklama zorunluluğu bulunmadığını belirtti.
Geçen Çarşamba Anthropic, Ocak ayında meydana gelip Ağustos ayında keşfedilen dördüncü bir Claude hackleme olayını açıkladı. Şirket ayrıca, daha önceki saldırılarda kusurlu model davranışının test hatalarıyla birlikte rol oynadığını da kabul etti.
Bu olaylar ile ifşa tarihleri arasındaki gecikmeler, güvenlik başarısızlıklarının ne kadar hızlı tespit edilebildiği ve ele alınabildiği sorusunu gündeme getiriyor.
Konsey’in GeoTech Center biriminde başkan yardımcısı ve araştırmacı olan Trisha Ray, gelişimi yavaşlatmanın daha fazla güvenlik araştırması finansmanı ve zorunlu olay bildirim sürelerini de gerektirdiğini savundu.
“Kapasiteyi yavaşlatmak, uyum araştırması paralelliği sorununa eksik bir yanıt,” diye yazdı. “Herhangi bir güvenilir yavaşlama taahhüdü, güvenlik araştırması tarafında eşleşen, nicel bir taahhüt gerektirir.”
