AI güvenlik endişeleri artarken, üç öncü araştırmacı AI araştırmasının açık kalması gerektiğini savunuyor. Geoffrey Hinton, Fei-Fei Li ve Andrew Ng, Ai4 konferansında konuşarak, AI'nin açık olması gerektiğini ancak farklı yaklaşımlar önerdiler.
Andrew Ng, büyük şirketlerin AI araştırmasını kontrol etmesini istemiyor. Ng, "Ben kapı bekçileri istemiyorum" dedi. "Bu, AI'ye herkesin erişmesini sınırlar."
Ng, birden fazla sağlayıcı olmasını ve modellerin rekabet etmesini öneriyor. "Tek bir reçetemi olsaydı, açıklığı teşvik etmek olurdu" dedi. "AI harika bir teknoloji ve herkesin elinde olmasını istiyorum."
Geoffrey Hinton ise açık kaynaklı yazılımlarla açık ağırlıklı modeller arasında bir ayrım yaptı. Hinton, "Açık kaynaklı yazılım, insanların kodu incelemesine ve değiştirmesine olanak tanır. Açık ağırlıklı modeller ise, eğitilmiş bir AI modelinin parametrelerini halka açıklar. Bu, çok farklı bir şey."
Hinton, açık ağırlıklı modellerin insanların büyük foundation modelleri eğitim vererek kötü amaçlar için kullanabileceğini düşünüyor. Ancak Hinton, açık ağırlıklı modellerin artık AI'nin bir parçası olduğunu kabul ediyor.
Fei-Fei Li, açıklık ve kapalılık arasında bir ikileme yaratmanın tehlikeli olduğunu düşünüyor. Li, "Bu, kompleks yazılım ve bilimsel sistemlerde çok daha nüanslı bir mesele."
Li, nükleer fizikteki örnekleri kullanarak, açıklığın her zaman tümüyle açık veya kapalı olmak zorunda olmadığını gösteriyor. Li, farklı katmanların farklı açıklık seviyelerinde çalışabileceğini savunuyor.
Tüm konuşmacılar, AI'nin gelişimini doğru yönde tutmak için bazı düzeyde düzenlemenin gerekli olacağını kabul ediyor. Hinton, "AI'yi insanların yardımına yönelik bir yönde geliştirmek istiyoruz ve düzenleme bize bunu yapmamızda yardımcı olacak."
