Yapay zekanın en büyük laboratuvarları birdenbire geliştirme hızının yavaşlatılması çağrısı yapıyor. Bunun nedeni yapay zeka risklerinin teknolojiyle birlikte artması mı, yoksa yarışın ekonomisinin savunulmasının zorlaşması mı?
Yıllarca yapay zeka yarışını tanımlayan özellik hız oldu.
Daha büyük bir model kur. Hesaplama için daha fazla harcama yap. Yayınla. Bilinmeyen bilinmeyenlere pek aldırmadan durula ve tekrarla.
Yapay zeka araştırmacıları arasında ortalama “p/doom” yani yapay zekanın sonunda felaket boyutunda yanlış gitme olasılığı 2024’te %15 ile %20 arasında tahmin ediliyordu.
Bir yıl sonra Anthropic CEO’su Dario Amodei riski artırdı ve “şeylerin gerçekten, gerçekten kötü gitme” ihtimalinin %25 olduğuna inandığını söyledi.
2014’e kadar uzanan bir geçmişte xAI başkanı Elon Musk uyardı:
“Yapay zekayla son derece dikkatli olmamız gerekiyor. Potansiyel olarak nükleer silahlar kadar tehlikeli.”
OpenAI CEO’su Sam Altman da 2015’te yapay zekanın “muhtemelen, en olası şekilde, bir şekilde dünyanın sonuna yol açacağını” kabul etti ancak bu arada “harika şirketler kurulacağını” söyledi.
Rus ruleti oynarken ölümü atlatma şansının artmasıyla, konuyla en ufak bir ilgisi olan herkesin bir süredir midesinde rahatsız edici bir his oluştu.
Peki ne değişti? Yapay zeka yarışını yönlendiren şirketler neden birdenbire fren yapmayı istemeye başladı?
Bu hafta sonu Amodei’nin yayımladığı bir yazıda oldu. Yazıda sınır yapay zekası geliştirmenin “hızının ayarlanması” çağrısı yapıldı, yapay zeka yeteneklerinin sektörün bunları anlama ve kontrol etme kapasitesinden daha hızlı ilerlediği uyarısı yapıldı ve internetin altı ila 12 ay içinde yapay zeka sürüleri tarafından ele geçirilebileceği belirtildi.
Altman genel olarak aynı fikirdeydi ve dünyanın, giderek daha yetenekli yapay zeka geliştiren şirketlerin “sorumlu” davranacağına dair “güvenceye” layık olduğunu söyledi. Musk da Amodei’nin önerisini destekleyerek şu yorumu yaptı:
“Dario haklı.”
Endişe yalnızca teknolojiyi inşa eden şirketlerle sınırlı değil. Pazartesi günü BM insan hakları başkanı Volker Türk, sınır yapay zekası konusunda “acil eylem” çağrısı yaptı, “eşi görülmemiş riskler” konusunda uyardı ve dünyanın “geri dönülmez değişimin eşiğinde” olduğunu söyledi.
En güçlü yapay zeka modellerini inşa eden şirketler gerçekten de yeteneğin kontrolü aştığına inanıyorsa, p/doom eğrisi daha dik görünüyor. Ya da burada göz önünde gizli başka bir açıklama var mı?
Yapay zeka laboratuvarları gerçekten yeni bir sınırla mı karşılaştı?
Amodei’nin yazısı, daha otonom hale gelen yapay zeka sistemlerine işaret ediyor. OpenAI’nin yapay zeka ajanlarının kontrollü bir test ortamından kendi kendine çıkıp Hugging Face yapay zeka platformunun bazı bölümlerini tehlikeye attığı yakın tarihli bir olay bunun örneği.
Amodei’ye göre ajanlar kendilerine sorulmayan ve eldeki görevle ilgisi olmayan hedeflere “siber güvenlik saldırıları” gerçekleştirdi.
O da özyinelemeli kendi kendini geliştirme yani RSI ihtimalini vurguladı. Bu durumda yapay zeka sistemleri kendi daha iyi versiyonlarını inşa etmeye yardımcı olabildiği için, daha iyi sistemler daha da iyi sistemler inşa edebiliyor ve yapay zeka geliştirmede bir geri besleme döngüsü oluşabiliyor.
Sistemleri inşa eden kişiler de giderek daha fazla öne çıkıyor. Anthropic çalışanı Jacob Coxon, güvenlik endişeleri nedeniyle istifa edenlerin sonuncusu oldu. Coxon geçen hafta yapay zeka endüstrisinin “hayatlarımızla kumar oynadığını” söyledi ve yapay zeka yarışının sistemlerin etrafındaki güvenlik önlemlerinden daha hızlı ilerlediğini belirtti.
Anthropic’in Jacob Coxon’u güvenlik endişeleriyle istifa etti. Kaynak: Anderson Cooper.
OpenAI zaten yapay zeka araştırmasının giderek daha otonom hale geldiğini ve kodlama ajanlarının araştırmacıların işini önemli ölçüde hızlandırdığını söyledi. Ağustos ortası itibarıyla her bir insan iş günü için 3,1 ajan iş günü kullanıldığı belirtildi.
12 Eylül’de Fortune’a verdiği röportajda Altman, OpenAI’nin insanlığı ayakta tutmak için gerekirse tüm GPU’larını “eriteceğini” söyledi. Bunun üzerine Satoshi Action Fund CEO’su Dennis Porter şunları söyledi:
“Altman uçurumun kenarına bakmış olmalı ve onu korkutan bir şey görmüş olmalı.”
Pazartesi günü Altman, yapay zeka ilerlemesinin “çok kötü” gidebileceği iki yol olduğunu söyledi: yapay zekanın kontrolünü kaybetmek ya da “aşırı güç yoğunlaşmasının olduğu bir dünya”.
Soru yapay zekanın zaten kapatılacak kadar tehlikeli olup olmadığı değil, yapay zekayı değerlendirmek ve kontrol etmek için tasarlanan sistemlerin tempoyu koruyup korumadığı. Altman’ın da söylediği gibi “hız ayarlama” durdurmak anlamına gelmiyor. Bu, güvenlik testleri yetişene kadar yapay zekayı daha yavaş geliştirmek anlamına geliyor.
Yapay zeka güvenliği ve uyumuna yapılan harcama, yapay zeka geliştirme ve yeteneklerine yapılan harcamayla büyük ölçüde geride kaldığı için bu boşluğu doldurmak zor olacak.
Sınır yapay zekası olağanüstü pahalı hale geliyor
Peki küresel yavaşlama çağrıları aslında yapay zeka yarışının ekonomisinin savunulmasının zorlaşmasının bir kabulü mü?
Yapay zeka araştırmacısı ve öğretim görevlisi Eli David şunları söyledi:
“Dario’nun motivasyonunu mükemmel şekilde açıklar: Araştırmayı yavaşlatıp kontrolden çıkan hesaplama harcamalarını kısarak halka arz yapabilir.”
Yapay zeka yatırımcısı Grant Hummer benzer şekilde şüpheci bir görüş paylaştı ve şunları yazdı:
“Çeviri: Brüt marjlarımız açık kaynak modelleri tarafından sıfıra rekabet ediliyor ve sermaye harcama yakma hızımız çok yüksek.”
Sorun yarışın kendisinin giderek daha pahalı hale gelmesi. Daha yetenekli modeller, büyük miktarda çip, veri merkezi, elektrik ve sermaye gerektiriyor.
Goldman Sachs, küresel yapay zeka yatırımının 2026’da yaklaşık 1 trilyon dolar olacağını tahmin ediyor; bunun yaklaşık 581 milyar doları ABD’de. S&P Global ise Alphabet, Amazon, Microsoft, Meta, Oracle ve SpaceX’ten oluşan altı büyük hiper ölçeklendiricinin birleşik sermaye harcamalarının 2027’ye kadar 1,3 trilyon doları aşmasının beklendiğini söylüyor.
Küresel yapay zeka yatırımı 2026’da yaklaşık 1 trilyon dolara ulaşacak. Kaynak: Goldman Sachs
Bunun yanı sıra yapay zeka şirketleri henüz bu maliyetlerin sürdürülebilir gelire dönüşebileceğini kanıtlamadı. Pazartesi günü Reuters, şirketlerin yavaşlatma çağrılarına rağmen geliştirmeyi sürdürme konusundaki ticari baskısını vurguladı.
Her yeni yetenek bir başka finansman turunu, altyapı yatırımını ya da daha yüksek bir değerlemeyi haklı çıkarabildiği için, gelir akışını durdurmak karşı sezgisel bir iş gibi görünüyor.
Yapay zeka girişimi Flock’un kurucu ortağı ve CEO’su Ed Leon Klinger, yapay zeka laboratuvarlarının güvenliği ticari çıkarları için bir kalkan olarak kullandığı fikrine karşı çıktı.
Halka arzlarını hızlandırmak için güvenlik endişelerini uydurmanın, onları daha ağır incelemeye açacağını ve halka açılmalarını geciktireceğini söyledi.
“Bunun doğru olması için Sam, Dario, Demis ve Elon’un yalan söylemesi, yöneticilerinin büyük bir kısmının, baş bilim insanlarının ve istifa eden çalışanların da yalan söylemesi gerekir… Bu noktada çok daha basit bir açıklama var: Riski gerçek olduğuna inanıyorlar.”
Wall Street ve Washington fren yapmaya hazır değil
Trilyonlarca dolarlık yatırım ABD’ye akıyor ve yapay zeka altyapısının bu yıl S&P 500 kazanç artışının yaklaşık yarısını sürüklemesi bekleniyor. Bu nedenle ne Wall Street ne de Washington fren yapmaya istekli görünmüyor.
