Google ve Google DeepMind araştırmacıları Çarşamba günü yapay genel zeka etrafındaki tartışmayı ilerletmek için DeepMind Enstitüsü’nü başlattı. Enstitünün yöneticileri arasında DeepMind’in kurucu ortağı Shane Legg, Google yöneticisi James Manyika ve Google DeepMind başkanı Demis Hassabis bulunuyor; Legg aynı zamanda yönetici editör olarak görev yapıyor.
Yeni enstitü, Google, Google DeepMind ve daha geniş küresel araştırma topluluğu arasında AGI’ye dair farklı bakış açılarını ortaya çıkarmayı amaçlıyor. Açıklamada, “Her zaman aynı fikirde olmayacaklar ve hızlı ilerleyen bu sınırda daha fazla veri ve bilgi ortaya çıktıkça fikirlerini değiştirmeleri olası” denildi.
İlk koleksiyon dört makaleden oluşuyor ve çeşitli konuları kapsıyor: olası AGI bozulmasını yönetmek için ekonomik politikalar, insan tarafından okunabilir model akıl yürütmesinin korunması, insan refahı ilkeleri ve öncü yapay zeka modellerini değerlendirmek için bir çerçeve.
DeepMind güvenlik araştırmacıları Rohin Shah ve Anca Dragan’ın kaleme aldığı bir makale, yapay zekanın şeffaflık penceresinin daralmasının — bir modelin adım adım akıl yürütmesini görüp kontrol edebilme yeteneğinin — kaçınılmaz olmadığını savunuyor. Yeni mimarilerin en güçlü modelleri izlemeyi zorlaştırması karşısında yazarlar, geliştiricilerin ve düzenleyicilerin güvenlikle ilgili ödünleri doğrudan ele alması gerektiğini söylüyor. Bu durum, modelin okunabilir bir akıl yürütme izi üretmeden gerçekleştirebileceği ardışık hesaplama miktarını sınırlamak anlamına gelebilir ya da geliştiricilerin daha az şeffaf sistemlerin de aynı ölçüde izlenebilir olduğunu göstermesini zorunlu kılabilir.
Bir başka makalede Hassabis, en gelişmiş yapay zeka modellerini değerlendirmek üzere ABD öncülüğünde bir öncü yapay zeka standartları kurumu öneriyor. Önerilen çerçevede geliştiriciler başlangıçta modelleri piyasaya sürmeden 30 güne kadar önce gönüllü olarak incelemeye sunacak. Değerlendirme sistemi etkinliğini kanıtladıktan sonra, ABD’de öncü modellerin dağıtımı için testleri geçmek zorunlu hale gelebilir.
Kurum ilk etapta değerlendirmeleri yapay zeka şirketleriyle istişare ederek tasarlayacak, ancak zamanla laboratuvarların modellerini bilinen değerlendirmelere göre uyarlamasını engellemek için bağımsız ve açıklanmayan değerlendirmeler geliştirecek; makalede buna “held-out” yani saklı testler deniyor. Hassabis, çerçevenin “durumun ciddiyeti gerektirirse sıkılaştırılabileceğini” söyledi ve bunun öncü yapay zeka geliştiricileri arasında koordine bir yavaşlamayı da içerebileceğini belirtti.
Makaleler, sektörün güvenlik tartışmasının geniş endişe beyanlarından açıklama, dış denetim ve güvenlik önlemleri geride kalırsa koordine yavaşlama gibi somut önerilere kaydığı bir dönemde geldi. Bu kayma, bu hafta sektör liderlerinin Anthropic CEO’su Dario Amodei’nin öncü yapay zeka geliştirmesini “pace” yani tempolu ilerletme çağrısının unsurlarını desteklemesiyle hızlandı.
