Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving yeni bir röportajında "insan yok olma ihtimalinin kendi görüşüne göre bir yazı tura kadar" olduğunu söyledi. Bu görüşme, OpenAI, Google ve Anthropic’te halen çalışan ya da daha önce çalışmış yapay zeka araştırmacılarıyla yapılan bir düzine röportajdan biri. Aİ’lerin yeteneklerini ve motivasyonlarını incelediğini belirten kâr amacı gütmeyen kuruluş Palisade Research, röportajları topladı ve frominside.ai üzerinden yayımladı.
Birkaç araştırmacı Irving’e katılarak yapay zekanın insanlığı yok etme ihtimaline dair uyarıda bulundu. Google DeepMind araştırma bilimcisi Neel Nanda, "en az yüzde 10 ihtimalle insan yok olmasına yol açacağı ve bunun akıl almaz derecede yüksek olduğu" görüşünü dile getirdi. Nanda ve Irving’in yorumlarına daha önce "AI safety" yani yapay zeka güvenliği topluluğu ve bu kavramın ne anlama geldiğinin ya da ne yapılması gerektiğinin netleştirilmesinin zorluğu hakkında hazırlanan bir raporda da yer verilmişti; bu videoların da tek bir tutarlı çözüm sunmadığı not edildi.
Eski OpenAI araştırmacısı Daniel Kokotajlo daha ileri giderek süper zekalı yapay zekanın "temelde tanrı benzeri güçlü olacağını" savundu ve ekledi: "Ne yazık ki onları nasıl kontrol edeceğimizi hiç bilmiyoruz. Dolayısıyla muhtemelen kimse onları kontrol etmeyecek. Bu, söylendiği kadar tehlikeli ve kesinlikle yaşanmasına izin verilmemeli."
Her video tam haliyle izlenebiliyor. Site aynı zamanda birden fazla kişinin benzer konulardaki sözlerini derleyen kesitler de sunuyor; bu kesitler konunun abartı ya da pazarlama olup olmadığı ve bu kadar tehlikeli olduğuna inandıkları bir şey üzerinde neden çalıştıkları sorularına odaklanıyor. Yanıtlardan bazıları Google’dan Mary Phuong’un "Söylediklerime kesinlikle şüpheyle yaklaşmalısın çünkü laboratuvar tarafından maaş alıyorum" demesi ve Nanda’nın "Çalışmamın bu varoluşsal riskleri doğrudan azalttığına inanmasaydım istifa ederdim… Bu şirketler ben istifa ettiğim için bu sistemleri üretmeyi durdurmayacak" açıklaması içeriyor.
