Zayıf yapay zeka düzenlemeleri, hiç düzenleme olmamasından daha kötü güvenlik sonuçlarına yol açabiliyor. Yeni bir akademik çalışma, politika yapıcıları kuralların izole şirketler veya uygulamalar yerine tüm yapay zeka tedarik zincirini nasıl etkilediğini düşünmeye çağırıyor.
Cornell Üniversitesi ve Carnegie Mellon Üniversitesi araştırmacıları tarafından hazırlanan ve Proceedings of the National Academy of Sciences dergisinde yayımlanan çalışma, teorik ekonomi ve oyun teorisini kullanarak düzenleyici gerekliliklerin yapay zeka güvenliğine yapılan yatırımları nasıl etkilediğini modelledi. Çalışmanın temel bulgusu, kötü hedeflenmiş veya yetersiz katı düzenlemelerin şirketleri kendi güvenlik yatırımlarını azaltmaya ve sorumluluğu başkalarına devretmeye teşvik edebileceği yönünde.
Araştırmacılar, hükümetlerin yapay zekayı düzenleyebileceği iki nokta arasında önemli bir ayrım yapıyor: OpenAI, Google ve Anthropic gibi genel amaçlı modelleri geliştirenler ile bu modelleri tıbbi teşhis, e-ticaret veya müşteri hizmetleri sohbet robotları gibi belirli amaçlar için kullanan alt akış şirketleri.
Bireysel uygulamaları düzenlemek en mantıklı yaklaşım gibi görünebilir çünkü riskler genellikle yapay zekanın belirli ortamlarda kullanılmasıyla ortaya çıkar. Ancak çalışma, düzenlemelerin ağırlıklı olarak alt akış kullanıcılarına odaklanmasının, model geliştiricilerin güvenliğe daha az harcama yapması yönünde istenmeyen teşvikler yaratabileceğini buldu.
Alt akış şirketlerinin uygulamaların düzenleyici gereklilikleri karşılamasını sağlaması beklendiğinde, genel amaçlı model sağlayıcıları üçüncü taraf güvenlik denetimleri gibi önlemleri azaltarak bu yatırımlardan "bedavacılık" yapabiliyor.
Çalışmanın baş yazarı Benjamin Laufer, "Bir bedavacılık davranışı ortaya çıkıyor," dedi. "Düzenleme, genel sağlayıcı için güvenlik yükünü alt akış uzmanına devretmek için bir araç haline geliyor."
Bu ayrım, ABD'de gelişmekte olan düzenleyici ortam için özellikle önem taşıyor. Federal düzeyde politika yapıcılar, model güvenliği, test ve ulusal güvenlik konularını da içeren ileri veya sınır yapay zeka modelleri geliştiren şirketlere odaklanmış durumda. Eyaletler ise genellikle istihdam, sağlık, sigorta ve diğer yüksek etkili kararlarda kullanılan yapay zeka dahil olmak üzere alt akış uygulamalarına daha fazla ağırlık veriyor.
Çalışma, düzenlemenin hiçbir katmanının izole olarak değerlendirilmemesi gerektiğini öne sürüyor. Bunun yerine politika yapıcılar, yapay zeka tedarik zincirinin bir noktasında dayatılan yükümlülüklerin başka yerlerdeki güvenlik yatırımlarını nasıl değiştirebileceğini hesaba katmalı.
Araştırmacılar, güçlü ve doğru yere konumlandırılmış düzenlemelerin hem güvenlik hem de ekonomik getiriler için fayda sağlayabileceğini buldu. Modelleri, "daha güçlü, iyi yerleştirilmiş düzenlemelerin tüm oyunculara karşılıklı fayda sağlayabileceğini" gösteriyor. Bu, nihai ürün güvenliğini artırırken aynı zamanda genel amaçlı yapay zeka geliştiricileri ve alt akış uzmanlarının yatırımlarından elde ettikleri faydayı da iyileştiriyor. Çalışma, faydayı bir şirketin gelir payı eksi yatırım maliyetleri olarak tanımlıyor.
En iyi sonuç, düzenleyicilerin hem model geliştiricilerinden hem de alt akış şirketlerinden yeterli güvenlik yatırımı talep etmesiyle ortaya çıkıyor. Bu, her iki tarafın da yükü diğerinin üstleneceğini varsaymasını engelliyor.
Araştırmacılar sorunu oyun teorisindeki klasik "mahkum ikilemi"ne benzetti. Diğer katılımcıların güvenliğe yeterince yatırım yapacağına dair güven olmadığında, her şirket daha az harcayarak ve başkalarına güvenerek kendi ekonomik çıkarlarını koruma eğilimi gösteriyor. Sonuç, işbirliği herkese fayda sağlayacak olsa bile toplu olarak daha kötü olabiliyor.
Buna karşılık, yapay zeka tedarik zinciri genelinde güçlü düzenlemeler bu belirsizliği azaltabiliyor ve şirketlerin sorumluluğu devretmesini engelliyor. Bu çerçevede, düzenleyici gereklilikler hem model sağlayıcılarının hem de alt akış dağıtıcılarının tamamlayıcı güvenlik yatırımları yapma teşvikine sahip olduğu koşullar yaratıyor.
Bulgular, aşırı düzenlemenin yeniliği ve ABD'nin Çin ile rekabet gücünü zayıflatabileceğini savunanlarla, ticari teşviklerin tek başına yapay zeka risklerini ele almaya yeterli olmadığını söyleyen daha güçlü önlemlerin destekçileri arasındaki daha geniş ABD tartışmasını karmaşıklaştırabilir.
Çalışma, seçimi basitçe düzenleme ve kuralsızlaştırma olarak çerçevelemek yerine, düzenlemenin tasarımı ve yerleşiminin katılığı kadar önemli olabileceğini savunuyor.
Laufer, "İnsanlar yapay zekayı tek bir nesne olarak düşünüyor, ancak aslında yapay zeka, her biri teknolojiye kendi katkıları olan çok karmaşık bir paydaş ve aktörler kümesini içeriyor," dedi. "Düşünceli bir şekilde düzenlemek için tek bir sağlayıcı veya kuruluşu değil, tüm tedarik zincirini dikkate almalıyız."
