Kral Charles, perşembe günü Nvidia'nın Jensen Huang'ı, OpenAI ve Anthropic'ten liderler, İngiltere'nin yeni yapay zekâ bakanı Kanishka Narayan ve İngiltere'nin dış istihbarat servisinin başı da dahil olmak üzere yapay zekâ ve İngiltere hükümetinin en önde gelen isimlerinden bazılarıyla özel bir zirveye ev sahipliği yaptı. Papa'ya yapay zekâ konusunda danışmanlık yapan Paolo Benanti de oradaydı.
Kral'ın zirvedeki sözleri dikkat çekti çünkü anayasal nedenlerle kraliyet ailesi genellikle siyasi konulara fazla karışmamaya özen gösteriyor ve yapay zekâ şu anda dünyada en çok tartışılan konulardan biri. Kral, salondaki liderlere yapay zekâyı "çok geç olmadan" kontrol altına alacak bir yol bulmaları çağrısında bulundu ve teknolojinin hızlı gelişiminin "özünün" hem "ilgi çekici" hem de "derin endişe verici" olduğunu ekledi.
"Yapay zekâ, tıp ve bilim örneğini vererek, yaşamı iyileştirme ve kurtarma konusunda büyük bir kapasite göstermeye başladı bile" dedi. "Yine de bu teknolojileri yaratanlar artık yapay zekânın yaşamı alma potansiyeli de dahil olmak üzere daha karanlık kapasiteler geliştirebileceği konusunda uyarıyor." Bu sözler, bir Anthropic araştırmacısının birkaç hafta önce istifa edip çevrimiçi olarak yapay zekâ şirketlerinin "insandan çok daha akıllı makineler inşa etmek için yarıştığını" ve insanlığın "bunun üstesinden gelemeyebileceğini" yazmasının hemen ardından geldi.
Kral konuşmasına devam ederek, bu teknolojinin yanlış ellere geçmesi ve "potansiyel olarak felaket boyutlarında" kullanılması halinde ortaya çıkacak "varoluşsal tehlikelerin" uygun şekilde değerlendirilmesinin acil olduğunu söyledi.
"Elbette, her şey çok geç olmadan yeterli kontrol mekanizmalarına sahip olmamız gerekmiyor mu?" dedi. Kral Charles konuşmasını bitirirken liderlere yapay zekânın olumlu yönlerinden yararlanmanın ve bu sonuca ulaşmak için uluslararası iş birliği ve uzlaşı kurmanın bir yolunu bulmaları çağrısında bulundu. Bu sözler, Anthropic'in Fable ve Mythos modellerine erişimi yalnızca ABD müşterileriyle sınırlayarak Avrupa teknoloji sahnesini şaşırtmasının ardından geldi ve bu durum birçok kişiyi yapay zekâ egemenliği kavramı üzerinde düşünmeye itti.
"Sizin karşınızdaki görev, yalnızca teknolojiyi ilerletmek değil, onun insanlığın, toplumun ve doğal dünyanın hizmetinde kalmasını sağlamaktır" diyerek konuşmasını tamamladı. "Yeni olanı kucaklarken, zamansız olanı kaybetmemeliyiz."
Medya kuruluşları Kral'ın yaklaşık 20 dakika kaldığını ve ardından konukların konuyu kendi aralarında tartışmaya devam ettiğini bildiriyor. Kral'ın zirvesi için OpenAI'den CFO Sarah Frair katılırken Anthropic'ten küresel işlerden sorumlu Tino Cuéllar katıldı. Yorum istemiyle ulaşıldığında Cuéllar, şirketin tartışmaya katılmaktan onur duyduğunu ve yapay zekânın kamu yararına hizmet etmesindeki rolü üzerine tartışmak üzere sektör liderlerini ve toplumun farklı kesimlerinden sesleri bir araya getirdiği için Kral'a teşekkür ettiklerini söyledi.
Bu, Kral Charles'ın yapay zekânın zorlukları ve faydaları hakkında konuştuğu ilk kez değil; 2023 ve 2024'te de benzer açıklamalar yapmıştı. Bu zirve ise yapay zekânın her sektörü, konuyu ve sohbet biçimini domine etmeye devam ettiği bir dönemde özellikle zamanlı oldu. Bu ay OpenAI'den Sam Altman, Elon Musk ve Anthropic'ten Dario Amodei yapay zekâ geliştirmede yavaşlama çağrısında bulundu ancak Nvidia'dan Huang ve Başkan Donald Trump bu çağrıları hızla reddetti. Başkan "Çin'e yapay zekâda liderlik ediyoruz" dedi. "Dünyanın en sofistike ülkesiyiz ve bunu böyle tutmak istiyorum çünkü yapay zekâyı kim kazanırsa dünyayı o kazanır."
Bu durum meselenin ne kadar karmaşık hale geldiğini gösteriyor; Big Tech'in, siyasetin ve toplumun çıkarları çarpışıyor. Geçtiğimiz bir yıl boyunca OpenAI ve Anthropic büyük halka arz sinyalleri verdi, ancak OpenAI yakın zamanda yapay zekâ güvenliği endişelerinin sürmesi nedeniyle halka arz planlarının bu yıl askıya alındığını açıkladı.
