Kısa bir soru: Yapay zekanın o kadar iyi eğitilmesini ister misiniz ki, kocalar (ya da eşler) eşlerini mükemmel bir şekilde öldürmeyi planlayabilsin? Muhtemelen hayır, değil mi? İlk tepki olarak bu kesin bir hayır gibi geliyor. Bunun çok zor bir soru olduğunu bile düşünmezdim.
Ancak Amerika birçok farklı bakış açısına ev sahipliği yapıyor ve Comma AI'nın kurucusu ve uzun süreli jailbreakçi George Hotz geçtiğimiz hafta sonu böyle bir bakış açısını paylaştı.
Bu yazı, bir dizi büyük resim yapay zeka uyum planına yanıt olarak geldi, en son AI Futures Enstitüsü'nün 'AI 2040: Plan A' politika belgesi. Bu belge, dünyadaki araştırmacıların insanlığın iyiliği için 14 yıl boyunca yapay zeka gelişimini yavaşlatmayı seçtiği bir dünya hayal ediyor. Ancak elbette, belgeyi okuyan herkes öncülleri veya sonucuyla aynı fikirde değil.
Hotz karşı çıkanlar kampında. Yazısında, hızlı kalkış senaryosunun (yapay zekanın hızla insanüstü yetenekler kazandığı varsayım) pek mantıklı olmadığını savunuyor. Söylediklerinin çoğuna katılıyorum! Hotz'a göre yapay zeka uyumu ve güvenliği için en iyi yaklaşım, kullanıcılarının çıkarlarıyla yakından uyumlu, yerel olarak kontrol edilen yapay zeka modellerine odaklanmak.
Bu harika bir fikir, özellikle de mevcut yapay zekanın ne kadarının Claude ve ChatGPT gibi merkezi olarak yönetilen hizmetler etrafında inşa edildiğini hatırlatıyor. Yapay zeka hizmetlerinin bu şekilde gelişmesinin altyapıyla ilgili nedenleri var: Bu büyük, son teknoloji modelleri barındırmak pahalı ve çoğu insan bunları gün boyunca gerçekten kişisel yapay zekayı haklı çıkaracak kadar kullanmıyor. Ancak teknoloji geliştikçe bu faktörler daha az önemli hale geliyor. OpenClaw ile ilgili bu kadar heyecan verici olan şeyin bir kısmı da bu deneysel, kendin yap yaklaşımıydı ve daha fazla yapay zeka ürününün bunu yeniden yakalamaya çalıştığını görmek harika olurdu.
Ancak Hotz doğası gereği bir kışkırtıcı, bu yüzden orada durmuyor. Kullanıcı uyumlu yapay zekayı bir silaha benzetiyor(!) — silah, üvey annenizi öldürmek için kullanırsanız şikayet etmez. (Bununla ilgili başka kurallar olduğunu hissediyorum?) Gerçekten uyumlu bir yapay zeka, Amazon Prime'dan meth-lab ekipmanı sipariş edebilir ve eğer istediğiniz ve talep ettiğiniz şey buysa, nasıl kullanacağınızı gösterebilir, diyor. (Yine, burada sınırlayıcı faktörün yapay zeka olacağını sanmıyorum.) Hotz bu ilkeyi savunmak için öleceğini bile söylüyor, ancak buna yol açacak olaylar dizisini hayal etmek zor.
“Ya özgürlüğün olduğu bir dünyada yaşarız ya da yaşamayız,” diye yazıyor Hotz. Seçenekler bunlarsa, özgürlük dünyası kulağa daha iyi geliyor! Yine de bilmiyorum.
Her şey özgürlükle ilgili değil, değil mi? Çok sayıda insanı içeren herhangi bir yapı (toplumlar, pazarlar, şirketler vb.) denge kurmayı, bireysel ihtiyaçları birbirine bağımlı tercihler ve hesap verebilirlik sistemleri ağına bağlamayı gerektirir. Ve kitlesel pazar teknoloji ürünleri dağıtan herkes muhtemelen bu ağı bir bütün olarak düşünmeli, yani henüz öldürülmemiş eşlerin ve üvey ebeveynlerin çıkarlarını ciddiye almalı.
Hotz'un deneyimlediği özgürlük aslında kolektif girişim sayesinde mümkün olan potansiyel geleceklerin bir alanı; hepimiz küçük yapay zeka destekli Napolyonlar gibi davranmaya başlarsak bu gelecekler bir gecede yok olur. Meme'de dendiği gibi, bir toplumda yaşıyoruz.
Kurumsal dünyayı benim yararıma alt edebilecek yerel bir yapay zekaya sahip olmak kulağa harika geliyor! Bir inceleme birimi için sabırsızlanıyorum.
