Demis Hassabis, dünyanın, sınır ötesi yapay zeka modellerinin çok tehlikeli hale gelmesi durumunda frenlere basma yetkisine sahip bir AI denetleyicisine ihtiyacı olduğunu düşünüyor.
Google DeepMind'in CEO'su ve kurucu ortağı, bir blog yazısında ABD'nin bu girişime öncülük etmesi gerektiğini söyledi. Hassabis, ABD'nin 'ekonomik ve teknolojik konumu göz önüne alındığında' küresel standartları belirlemek için en uygun ülke olduğunu savundu. Finans Sektörü Düzenleme Kurumu'na (FINRA) benzer bir yapıda olması beklenen kuruluş, önde gelen bağımsız uzmanlar ve açık kaynak topluluklarının temsilcilerinden oluşacak. Bu kurum, sınır ötesi modelleri piyasaya sürülmeden önce değerlendirme ve çok riskli bulunması halinde sektör çapında bir yavaşlatma koordine etme yetkisine sahip olacak.
'Sınır Ötesi AI ve Yeni Bir Çağın Şafağı' başlıklı blog yazısında Hassabis, AI sistemlerinin karmaşıklığı arttıkça küresel düzenleme ihtiyacının daha acil hale geldiğini belirtti. Yapay genel zekanın (AGI) 'muhtemelen sadece birkaç yıl uzakta' olduğunu söyleyen Hassabis, 'Gelecekte bu döneme baktığımızda, tekilliğin eteklerinde durduğumuzu fark edeceğiz - insanlık için yeni bir çağın şafağından başka bir şey değil' ifadelerini kullandı.
Axios'a göre Hassabis, aylardır önerisine destek toplamak için sessizce çalışıyor. Trump yönetimine, diğer AI laboratuvarlarına ve Avrupalı yetkililere brifingler veren Hassabis, yeni kuruluşun yıl sonundan önce faaliyete geçmesini umuyor. Axios'a konuşan Hassabis, 'Trump yönetiminden duyduğum sesler çok olumlu' dedi.
Bu öneri, Hassabis ve diğer sektör liderlerinin giderek güçlenen AI sistemlerini yönetmek için tutarlı bir çerçeve oluşturma ve olası riskleri azaltma çabalarının en son örneği. Şu anda ne küresel düzeyde ne de ABD'de AI'ya özgü kapsamlı bir kurallar dizisi bulunuyor. 2024 Nobel Kimya Ödülü'nü AI tabanlı protein tahmini çalışmalarıyla kazanan Hassabis, geçen ay AI destekli biyolojik silah üretimine karşı daha güçlü korumalar çağrısı yapan bir bildiriye de imza atmıştı.
Hassabis'in son açıklamaları, Anthropic kurucu ortağı Jack Clark ve eski Google CEO'su Eric Schmidt'in de aralarında bulunduğu üst düzey ekonomistler ve teknoloji devlerinin, dünya liderlerini AI'nın yaklaşan ekonomik etkilerini ciddiye almaya çağıran bir bildirisinin ardından geldi.
