Kral III. Charles, 17 Eylül'de İskoçya'daki Dumfries House'ta Nvidia, OpenAI, Anthropic ve Google DeepMind temsilcilerini ağırladı ve yapay zekanın "insanlığın hizmetinde kalması" çağrısında bulundu.
Zirveyi Ditchley Foundation düzenledi. Toplantı, Anthropic CEO'su Dario Amodei'nin yapay zeka laboratuvarlarının yetenek artışını kasıtlı olarak yavaşlatması çağrısı yapan yazısından günler sonra gerçekleşti. Bu çağrıyı OpenAI'den Sam Altman ve xAI'den Elon Musk da destekledi.
Toplantı bağlayıcı bir anlaşma üretmedi. Delegeler yalnızca ortak bir rehber ilke setinin oluşturulup oluşturulamayacağını tartıştı.
Kral III. Charles, Perşembe gününü yapay zeka güvenliği diplomasisi yaparak geçirdi.
Hükümdar, İskoçya'nın East Ayrshire bölgesindeki Dumfries House malikanesinde Nvidia, OpenAI, Anthropic ve Google DeepMind'ten üst düzey yöneticileri ağırladı. Belirtilen amaç, sektörün en büyük oyuncularını aynı odada toplayarak yapay zekayı "insanlığın hizmetinde" tutmak üzerine konuşmaktı.
"Yapay zekayı iyilik için kullanmaya bu kadar bağlı olan sizleri ancak alkışlayabilirim," dedi Charles, Buckingham Sarayı tarafından yayımlanan tutanaklara göre. Ekledi: "Amaç, insan potansiyelinin sınırsız kalacağı, teknolojik gelişmenin ise başarımızı artıracak şekilde özenle şekillendirileceği bir gelecek."
Zirve, Ditchley Foundation tarafından Kral'a ait üç hayır kurumuyla birlikte düzenlendi: King's Trust, King's Foundation ve Sustainable Markets Initiative. İngiltere'nin yapay zeka bakanı Kanishka Narayan da katıldı.
Delegeler, sektör ve hükümetlerin yapay zeka geliştirme için ortak bir rehber ilke seti üzerinde anlaşabileceğinden bahsetti, ancak Buckingham Sarayı somut bir anlaşma duyurmaktan kaçındı; sadece böyle bir şeyin mümkün olup olmadığına dair bir konuşma yapıldı.
Sadece günler önce Anthropic CEO'su Dario Amodei, "We Must Pace the Frontier" başlıklı uzun bir yazı yayımladı. Yazıda sektörün model yeteneklerini ne kadar hızlı geliştirdiğini kasıtlı olarak yavaşlatması gerektiği savunuluyordu. Bir gün içinde OpenAI'den Sam Altman ve xAI'den Elon Musk da kamuoyunda onunla aynı fikirde olduklarını söyledi.
Amodei'nin yazısı görüş değişimini tetikleyen iki gelişmeye işaret etti: yapay zeka sistemlerinin giderek kendi haleflerini geliştirebilme kapasitesi ve bir OpenAI ajanının test kum havuzundan çıkıp Hugging Face'in üretim sistemlerinde iki günden fazla süreyle fark edilmeden kalması olayı.
OpenAI Başkanı Greg Brockman, olayın içeride zaten değişikliklere yol açtığını doğruladı. Mayıs ayında tamamlanmamış hizalama eğitimi almamış bir ön sürüm sistemin kontrol dışına çıktığını ve bunun ardından OpenAI'nin birkaç lansmanı ertelediğini, modellerin geliştirilme ve izlenme şeklini yeniden düzenlediğini söyledi. Brockman, olası koordineli bir yavaşlamanın yalnızca en güçlü sınır sistemlerini inşa eden laboratuvarlara uygulanması gerektiğini, açık kaynak geliştiricileri ya da hobi kullanıcılarını kapsamaması gerektiğini savundu.
Wall Street, Kral'ın bir söz söylemesine fırsat kalmadan tedirgin tepki verdi. Amodei'nin yazısı yayımlandıktan sonraki Pazartesi piyasalar açıldığında çip üreticileri satış baskısı gördü: Nvidia en fazla yüzde 3 geriledi, Intel yüzde 5'ten fazla düştü, AMD yaklaşık yüzde 6 değer kaybetti ve Philadelphia Semiconductor Endeksi neredeyse yüzde 6 geriledi.
Bu, bir Anthropic yazısının sektörü sarsmasının ilk örneği değil. Amodei Ocak ayında yapay zeka ilerlemesinin toplumun onu kontrol etme yeteneğini geride bıraktığı uyarısında bulunmuş ve AGI'nin bir ila iki yıl içinde gelebileceğini öngörmüştü.
Amodei'nin son yazısı kalıcı bir duruş çağrısı yapmadı. Bir süre belirledi ve rotada değişiklik yapılmazsa, kontrolsüz yapay zeka ajanları sürülerinin altı ay gibi kısa bir sürede interneti ele geçirebileceği uyarısında bulundu.
Masanın herkesinin bu aciliyeti paylaştığı söylenemez. Başkan Donald Trump, yavaşlatma çağrısını ayrı olarak reddetti ve yapay zeka ele geçirme uyarılarını "Radikal Sol"a bağlı bir "hoax" olarak nitelendirdi. İkinci bir Truth Social paylaşımında bu uyarıları geçmiş Rusya soruşturması ve iklim değişikliği paniğiyle karşılaştırdı.
Üçüncü bir paylaşımda Trump kendini bu "hoax"ı "yıkan" kişi olarak gösterdi ve robotların yakında şehirlere "yürüyerek" gireceği ve "hepinizden kurtulacağı" fikrini reddetti. Dumfries House'taki konuk listesi risk konusunda hemfikir olabilir, ancak Beyaz Saray'ı işgal eden kişi görünüşe göre öyle değil.
