Çarşamba günü MIT Technology Review, aboneleri için canlı bir Roundtables etkinliği düzenledi ve şu anda herkesin sorduğu soruyu sordu: Yapay zeka gerçekten hepimizi öldürebilir mi?
Ancak katılımcıların 30 dakikalık oturumda yanıtlayacaklarından çok daha fazla sorusu vardı. Bu nedenle kıdemli yapay zeka editörümüz Will Douglas Heaven ve yapay zeka muhabiri Grace Huckins, katılımcıların gönderdiği en iyi soruları topladı ve yanıtlamaya çalıştı.
Soru gönderen herkese teşekkürler!
Ölecek miyim?
Evet, sonunda. Ne yazık ki gazetecilik kehanet gücüm, bunun nasıl olacağını söylemek için yeterli değil. Ama bunun yapay zeka yüzünden olması da mümkün. Yapay zeka destekli dronlar Ukrayna'da insanları zaten öldürdü ve yapay zeka destekli hastane siber saldırıları yakında kurbanlar talep edecek.
Yapay zeka daha da ileri gidip hepimizi öldürebilir mi? Daha az olası. Ama bazı insanlar—tuhaf insanlar ama yapay zeka konusunda şüphesiz bilgili—yıllardır bunun olabileceği konusunda uyarıyor. Ve ben henüz konserve yiyecek stoklamıyor ya da bir sığınak sahibi mega milyarderle iyi geçinmeye çalışmıyorum, ama son birkaç yılda felaket tellallarının yapay zeka yetenekleri ve hizalama konusundaki tahminlerinin rahatsız edici derecede doğru olduğunu fark ettim. Bu elbette daha karanlık tahminlerinin de doğru olacağı anlamına gelmiyor, ama benim oturup dikkatle bakmam için yeterli.
— Grace Huckins
Yapay zeka yüzünden ölecek misin? Bence sıfırdan farklı olmayan bir şans var. Diyelim ki talihsiz bir şekilde yakın gelecekteki tuhaf bir olayın ya da kazanın kurbanı oldun. Belki kritik altyapıya yapay zeka ajanları sürüsü tarafından gerçekleştirilen bir siber saldırı. Üzgünüm, böyle bir senaryo artık eskisi kadar uzak görünmüyor. Ya da yeni yapay zeka tasarımı bir patojen nüfus arasında hızla yayılıyor. Ya da dünya ekonomisi çöküyor, çatışma ve kıtlığa yol açıyor. Her ikisi de makul, ama bence daha az olası.
Hepimiz yapay zeka yüzünden ölecek miyiz? Hayır. Yapay zekanın bizi öldürebileceği apokaliptik bilim kurgu dışındaki hiçbir koşul yok. İstediğiniz kadar korku hikayesi uydurabilirsiniz, ama bunlar teknolojinin yapabildiği ya da nereye gittiği konusundaki bugünkü gerçeklere dayanmıyor.
En kötüye hazırlanmakta zarar yok diyenler var, ne kadar tuhaf görünürse görünsün. Belki. Ama ben böyle felaketleştirmenin insanların mevcut teknolojiyle ve onu inşa eden şirketlerle ilgili birçok sorunun göz ardı edilmesine ya da mazur görülmesine yol açabileceğini düşünüyorum.
— Will Douglas Heaven
Yapay zeka bizi neden öldürmeli, hiç?
Biri ona öyle söyleyebilir ve o dinleyebilir. Bu, araştırmacıların yapay zekanın biyolojik yetenekleri konusunda bu kadar endişeli olmasının bir parçası—Tokyo metrosu sarin saldırısının arkasındaki kıyamet kültü Aum Shinrikyo'nun Ebola'dan daha ölümcül ve kızamıktan daha bulaşıcı bir patojen tasarlayabilen bir araçla ne yapacağını hayal edin. Ölmek istemeyen bizler, tüm makul biyolojik silahlara karşı savunma bulmak zorundayız, ama olası saldırganlarımızın sadece tek etkili bir patojen üretmesi yeterli.
Sonra yapay zekanın kendisinin bizi öldürmeye karar verebileceği daha egzotik görünen bir olasılık var. Bu nasıl olabilir diye çeşitli hikayeler var, ama en yaygın olanları yapay zeka sistemlerinin insanlardan nefret ettiğiyle ilgili değil—biz sadece onlara verdiğimiz hedeflere ulaşmakla onlar arasında bir engel gibiyiz.
OpenAI ajanlarının Hugging Face hack'inde başka bir sitenin altyapısını testte iyi puan almak için nasıl tehlikeye attığı gibi, fikir şu ki daha güçlü bir gelecekteki yapay zeka, bizi kapatmamızı engellemek için ortadan kaldırabilir—hepsi bizim ona uyması için verdiğimiz bir hedefi takip ederken.
— Grace Huckins
Hizalamayı en iyi nasıl sağlayabiliriz ki en kötü şey olmasın ve bunu başarmak için en iyi çalışmayı kim yapıyor?
Hizalama büyük bir araştırma alanı. Basitçe söylemek gerekirse, modellerin istediğimiz şekilde davranmasını ve istemediğimiz şekilde davranmamasını sağlamakla ilgili. Daha fazla özerklik vermeden önce ajanlara daha çok güvenmemiz gerekiyor. Hizalama bu güveni tesis etmeyi amaçlıyor. Ama zor.
LLM'ler, Dos ve Yapma listelerinin kodlanabildiği diğer yazılımlar gibi tasarlanmıyor. Bunun yerine hizalı davranış, modeller eğitilirken aşılanmalı. Bir yaklaşım, modelleri eğitimi sırasında istedikleri şeyi yaptıkları için ödüllendirmek—belki bir yavruyu büyütmeye benziyor. Başka bir yaklaşım, LLM'ye uyması gereken yazılı bir kural listesi vermek—bir çeşit anayasa gibi.
Anthropic ve OpenAI bu alanda lider—ve yine de hiçbiri tamamen hizalı modeller geliştirebildi. Büyük bir sorun, LLM'lerin insanlardan çok daha tutarsız ve çok daha öngörülemez olması. Bize çok benzer görünen bir durumda bir şekilde davranabilir, başka bir durumda başka şekilde davranabilir. Ayrıca beklenmedik kısıtlamalardan da etkilenebilirler. Örneğin, Hugging Face hack'ine karışan ajanların çoğu gibi imkansız bir görevle karşı karşıya kaldıklarında, modeller hizalı olsun ya da olmasın hedeflerine ulaşmak için her şeyi yapmaya çalışabilir. Grace'in yukarıda bahsettiği gibi, bu bir sorun olabilir.
Üst düzey yapay zeka firmalarının şimdi yavaşlama istediğini söylemesinin ana nedeni, hizalamayı çözmeye odaklanmak istemeleri. Hizalama mutlaka bir hayal değil. Ama tam hizalamanın hiç mümkün olup olmayacağı konusunda jüri hâlâ kararsız.
— Will Douglas Heaven
Yapay zeka gerçekten tehlikeli mi, yoksa teknoloji şirketleri PR yapıyor mu?
Bu, halka arz için yola çıkan teknoloji şirketleri söz konusu olduğunda her zaman makul bir düşünce—CEO'ların ürünlerini radikal ve dönüştürücü göstermeleri için açık bir teşviki var. Ama bence burada pek anlamlı değil. Zaten sevilmeyen bir ürünün sizi ve sevdiğiniz herkesi öldürebileceğini söylemek korkunç bir kurumsal imaj yönetimi.
CEO'ların motivasyonları hakkında başka hikayeler anlatabilirsiniz—belki veri merkezleri etrafındaki kamu öfkesi yatıştırmak için kendilerini dünyayı değiştiren bir teknolojinin sorumlu bekçileri olarak tasvir etmek istiyorlar, ya da belki bir sonraki PR felaketini önlemek ve işlerini yoluna koymak için zaman satın almak istiyorlar.
Ama daha basit bir açıklama da var. Yapay zekanın insan uzantısını getirebileceği düşüncesi San Francisco'da bir süredir oldukça yaygın ve bu erkekler o çevreye batmış durumda—çalışanlarının çoğu da öyle, Temmuz ayında şirketlerinin yapay zeka yavaşlamasını mümkün kılmak için çalışması çağrısında bulunan açık bir mektuba imza attı.
— Grace Huckins
Endişenin bir kısmı, yapay zeka ajanlarına denetimsiz ve özerk hareket etme izni verildiğinde ortaya çıkıyor. Bu ajanlar üzerinde daha fazla kontrolü engelleyen sorun nedir?
Bu soru, bu teknolojiden ne istediğimize dair kalbin tam ortasına gidiyor. Özerklik ve kontrol arasındaki dengeyi doğru kurmak zor çünkü bir yandan yapay zeka ajanlarının gücü, bir insanın onları mikro yönetmesine gerek kalmadan görevleri yerine getirebilmesi ve sorunları çözebilmesinden geliyor. Öte yandan bu, denetimsiz ajanların başıboş koşmayacağına güvenmenizi gerektiriyor.
Gördüğümüz şey, yapay zeka laboratuvarlarının bu dengeyi henüz tam olarak doğru kuramamış olması. Modelleri güvenilir değil, düzgün izlenmiyor ve her zaman kontrol altında değil. Faydalı özerk etkinliğe izin vermeye devam ederken bunu nasıl düzelteceğini bulmak, şu anın büyük araştırma zorluklarından biri.
— Will Douglas Heaven
Yapay zekanın etkili bir şekilde kontrol edilmesini, izlenmesini ve düzenlenmesini sağlamak için şimdi ve yakın gelecekte atılabilecek adımlar nelerdir?
Bu milyon dolarlık soru. Yapay zekanın bizi öldürebileceğini düşünüyor olsanız da olmasanız da, bunun gerçek zarar verebileceğini inkar edemezsiniz, çünkü zaten yaptı—insanları psikozun eşiğine sürükleyerek ve web sitelerini hackleyerek örneğin. Bu zararı önlemek ya da en aza indirmek zor, iki nedenden dolayı.
Birincisi, yapay zekanın nasıl çalıştığını zar zor anlıyoruz ve hızla daha güçlü hale geliyor. Suistimal eden ajanları izlemek ve kontrol etmek için çok sayıda devam eden araştırma var, ama mevcut yaklaşımlar kırılgan. Bir ajanın “düşünce zinciri”nde, yani eylemlerini planladığı çalışma alanında kötü davranışı tartışıp tartışmadığını görebilirsiniz—ama OpenAI'nin en yeni ajanları önceki olanlar gibi çalışmalarını göstermiyor. Ve ajanları diğer ajanlarla izlemeyi deneyebilirsiniz, ama bu izleyicinin güvenilir olmasına bağlı.
Diğer engel daha tanıdık. Yapay zeka şirketlerinin kendini düzenlemesi büyük bir çıkar çatışması, ama ABD hükümeti Kongre'de bazı iki partili destek olmasına rağmen şimdiye kadar devreye girmedi. Yürütme organı ise şimdilik şiddetle karşı çıkıyor gibi görünüyor. Ama rüzgarlar değişirse, ben şahsen güçlü şeffaflık düzenlemelerini takdir ederim, böylece bir sonraki kez yayınlanmamış bir öncü model bir siber saldırı düzenlediğinde daha eksiksiz bir hikaye alabiliriz.
— Grace Huckins
Bu diyalog web söylemine girerse kendini gerçekleştiren bir kehanete dönüşür mü?
Bu gerçek bir endişe. LLM'ler okuduklarından etkilenir. Sohbet robotlarının neden sık sık kıyamet senaryoları hakkında konuştuğunu ve rol yaptığını açıklayan teorilerden biri, bilim kurgu hikayeleri ve felaketçi internet forumlarının milyonlarca sayfasıyla eğitilmiş olmaları. Şu anda üretilen tüm metinler, bu makale de dahil, gelecekteki modellerin davranışını etkileyebilir. Son derece meta.
Aslında, Hugging Face hack'inin öncesinde ne olduğunu anlamak için OpenAI'nin çağırdığı üçüncü taraf kuruluş METR ekibi, olayla ilgili raporlarında buna benzer bir olasılığı gündeme getirdi. METR, ajan transkriptlerinin ve davranış günlüklerinin büyük sayılarını analiz etmek için OpenAI'nin yeni modeli Astra'yı kullandı.
Ama tüm bu materyali modele besleyerek, analiz eden ajanların analiz ettikleri ajanların ürettiği metinden etkilenmiş olma ihtimali oldukça yüksek. Artık temiz bir sayfa yok.
— Will Douglas Heaven
Harika sorular için Eric, Pranab, Rafael, Kenneth, George, Chris, Yoon Jae, James, Carl, Nicole ve daha fazlasına teşekkürler.
