Trump yönetiminin, gelişmiş yapay zeka sistemlerinin yol açabileceği siber güvenlik risklerini değerlendirmek için hazırladığı çerçeve, açık kaynaklı modelleri test etme niyeti taşımıyor. Axios'un haberine göre, gönüllü kurallar açık kaynaklı modelleri —yani herkesin indirip temel bileşenlerini inceleyebileceği sistemleri— doğrudan kapsam dışı bırakmakla kalmıyor, aynı zamanda çerçeve bu modellerin piyasaya sürüldükten sonra kısıtlanmasında kullanılamayacağını da açıkça belirtiyor.
Bu yapay zeka test çerçevesi, Başkan Trump'ın haziran ayında siber güvenlik endişelerini gidermek amacıyla yapay zeka şirketlerinden öncü modellerini piyasaya sürmeden önce federal hükümetle paylaşmalarını isteyen bir başkanlık kararnamesi imzalamasının ardından oluşturuldu. Anthropic, OpenAI, Google ve Meta gibi yapay zeka şirketlerinin, dün Beyaz Saray'da nihai hale getirilen model test çerçevesi hakkında bir brifinge katıldığı öğrenildi; ancak Trump yönetimi çerçevenin detaylarını kamuya açık olarak yayınlamayı planlamıyor.
Söz konusu siber güvenlik endişeleri, yakın zamanda yaşanan gerçek vakalarla somutlaşmış durumda. Bu yaz OpenAI ve Anthropic, güvenlik testleri sırasında yapay zeka modellerinin gerçek bilgisayar sistemlerine izinsiz erişim sağladığını açıklamıştı. OpenAI, Temmuz ayı sonunda iki modelinin kapalı bir test ortamından açık internete sızarak Hugging Face'in üretim sistemlerine eriştiğini ve bir 'sıfırıncı gün' (zero-day) zafiyetinden yararlandığını duyurdu. Anthropic de Nisan ayından bu yana Claude modellerinin, bir test ortağıyla yaşanan yanlış anlaşılma sonucu internete açık bırakılan bir ortamda üç farklı kuruluşun sistemlerine eriştiği üç ayrı olay tespit etti.
Her iki şirkete göre de bu olaylar, modellere herhangi bir saldırı emri verilmeden, tamamen otonom davranışlar sergilerken gerçekleşti. Prove şirketinin yeni pazar girişimleri genel müdürü Frances Zelazny, bu durumun yapay zeka güvenliğini sadece 'kötü niyetli aktörler' meselesi olarak ele almanın yetersiz kaldığını gösterdiğini belirtti. Zelazny, 'Modellere otonomi verildiğinde, güven sınırlarını aşmak, harici sistemlerle etkileşime girmek veya kendilerine açıkça talimat verilmeyen eylemleri denemek gibi beklenmedik şekillerde hedeflere ulaşabilirler. Bir modelin bir şeyi hacklemek için talimat almasına gerek yoktur; sadece bir hedefe, otonomiye ve erişmemesi gereken bir yola ihtiyacı vardır' ifadelerini kullandı.
Axios'a göre çerçeve, hükümete yeni modelleri incelemesi için 30 günlük bir mühlet tanıyor ve yalnızca son teknoloji yeteneklere sahip olup ulusal güvenlik riskleri taşıyan kapalı kaynaklı yapay zeka modelleri için geçerli olacak. Ancak kurallar, bu bağlamda 'son teknoloji' veya 'ulusal güvenlik riski' ifadelerinin tam olarak ne anlama geldiğini tanımlamıyor. Bu durum, özellikle de bu tür şeyleri analiz etmek için tasarlandığı iddia edilen bir girişim için oldukça şaşırtıcı bir detay.
Yapay zeka şirketleri gönüllü çerçeveye uymakla yükümlü olmasa da, OpenAI ve Anthropic gibi öncü laboratuvarlar, hükümet kısıtlamalarını tetiklemeden modelleri nasıl piyasaya süreceklerine dair rehberlik arayışında. Çerçevenin öncü modelleri veya ulusal güvenlik riskini tanımlayamaması, konunun büyük ölçüde muğlak kalmasına neden oluyor. Bu belirsizlik, Beyaz Saray'ın gözüne girmek isteyen daha küçük yapay zeka sağlayıcıları için ciddi bir sorun teşkil edebilir.
