Yapay zekâ güvenliği ve olası bir yavaşlama konusunda büyük bir tartışma yaşanıyor. Anthropic CEO'su Dario Amodei yakın zamanda 'ön safları tempolamak' planını yayımladı. Öte yandan Nvidia CEO'su Jensen Huang, yapay zekâ karşıtlığının bir yalan olduğu ve düzenlemenin gereksiz olduğu yönündeki ABD Başkanı Donald Trump'ın iddialarını açıkça yineledi.
TechCrunch'ın Equity podcast'inin son bölümünde Kirsten Korosec, Sean O'Kane ve ben, Amodei ve OpenAI CEO'su Sam Altman gibi yöneticilerin gerçekten yavaşlamak istediği konusunda ciddi olup olmadığını tartıştık.
Amodei'nin planına destek veren sektör liderlerinin sayısının beni şaşırttığını belirtirken Sean, planın detaydan yoksun göründüğünü kaydetti.
Kirsten, mevcut düzenlemelerin ve serbest piyasanın işleyişinin tek başına yeterli güvence sağlayıp sağlayamayacağını sorduğunda Sean, 'Şu anda federal hükümetin genel olarak düzenlemeleri uygulamaya istekli görünmediğini, burada özellikle söz konusu olduğunda hiç de değil' yanıtını verdi.
Ayrıca şöyle savundu: 'Bu pazarı tüketicinin tercihi yönlendirmiyor gibi görünüyor. Yani bir şirket gerçekten kötü bir şey yaparsa iptal sayısında bir etki göreceği anlamına gelen bir durum yok.'
Uzunluk ve netlik açısından düzenlenmiş sohbetimizin önizlemesi için okumaya devam edin.
Anthony Ha: Sean, sen ne düşünüyorsun? Gerçekten 'ön safları tempolayacak' mıyız?
Sean O'Kane: Bir nedenden ötürü bu bana 'Point Break' filmindeki bir repliği hatırlatıyor. Bu çok Kaliforniya vari bir ifade, sanki 'Ön safları tempolayacağız, kanka' deniyor.
Bilmiyorum. Geçen hafta bu programda, bu şirketlerin yapısının buna uygun olmadığını düşündüğüm için herhangi bir yavaşlamaya doğru gitmediğimizi söylemiştim.
Dolayısıyla bir hafta önce söylediğim şeyin oldukça ani bir değişimi oldu. Bunu Anthropic'ten Dario'dan, OpenAI'den Sam'den ve bir dereceye kadar Elon Musk'tan duymak şaşırttı — buna inanıp inanmadığımızı tartışabiliriz. Yine de tamamen haksız olduğumu düşünmüyorum, çünkü Dario'nun bir blog yazısında ortaya koyduğu ve diğer bazı liderlerin de konuştuğu bu gevşek planlara rağmen, bu kişilerin neden tehlikelerden ve risklerden söz ettiğini gösteren iddiaların yanı sıra yavaşlama derken ne kastettikleri konusunda da hâlâ birçok ayrıntının eksik olduğunu hissediyorum.
Anthony, bu işler geçen hafta sonu patlarken senin bunu oldukça yakından takip ettiğini biliyorum, bu yüzden burada ne söylemeye çalıştıklarını anlamada senden daha hoşgörülü olup olmadığın merak ediyorum.
Anthony: Yani benim de sorularım var. Beni en çok etkileyen şey, sektördeki bu kadar çok kişinin bu konuda oldukça hızlı bir şekilde bir araya gelmiş görünmesi. Amodei blog yazısını yayımlamadan önce bile, bunun öncesindeki günlerde insanların bu planın bir versiyonunu paylaştığını görüyordum.
Anladığım kadarıyla yapay zekâ güvenliği topluluğundan çıkan bu öneriler uzun süredir kaynayan fikirler. Bunlar Amodei'nin tek başına uydurduğu şeyler değil. Ama birçok kişinin bunu benimsemeye hazır görünmesi şaşırtıcıydı ve bir bakıma uzlaşmanın olması cesaret verici. Yine de bunun yavaşlamaya yönelik gerçek, büyük adımları temsil ettiğine dair biraz şüpheci olmamı sağlıyor.
Kirsten Korosec: Öncelikle uzlaşma iyi bir şey olabilir. Ayrıca bir kartel oluşumunun başlangıcı da olabilir. Dolayısıyla burada kimden bahsettiğimizi netleştirelim. Sınır yapay zekâ laboratuvarlarından bahsediyoruz ve bu hem özel hem önemli.
Bir dakika önce detayların net olmadığını söyledin, ama genel fikrin bağımsız üçüncü taraf değerlendiricilerin Anthropic veya OpenAI gibi şirketlerin içine girip yapay zekâ güvenliği uygulamalarını ve olaylarını izlemesi olduğu biliniyor. Ancak bu konuda çok fazla belirsizlik var.
Sonra demokratik ülkelerdeki büyük yapay zekâ şirketlerinin güvenlik standartları ve sınırları konusunda koordine olması yönünde bir başka öneri var. Ve bunun uluslararası koordinasyon boyutu var. İşte bu genel fikirler.
Ayrıca çok ciddi bir geri tepmenin olduğunu da ekleyeyim. Ve şaşırtıcı bir şekilde, bunun karşısında çıkacağını düşünmediğim bazı insanlar var. Bence en bariz olanı, oldukça seçkin sözler söyleyen Nvidia CEO'su Jensen Huang. All-In Zirvesi'nde sahnede Başkan Trump'tan aldığı telefon ve bazı yorumları hakkında siz ne düşünüyorsunuz bilmiyorum.
Sean: Jensen'in bir dereceye kadar burada odadaki yetişkin olarak görüldüğünü anladığını düşünüyorum. Bu ilginç çünkü bu dinamik değişti. Yapay zekâ şirketleri büyük patlamayı yaşarken bir yıl, neredeyse iki yıl önce bu rolü kim oynuyordu diye insanlara sorsaydınız, birçok kişi Microsoft ve Satya Nadella'yı gösterirdi ve Microsoft'un — şu anda girmeyeceğimiz bir dizi nedenden ötürü — odadaki yetişkin olma tutuşunu kaybettiğini hissediyorum. Bunun bir kısmı kesinlikle Nadella'nın Google'ı dans ettireceğini söyleyip bunun hiç gerçekleşmemesinden kaynaklanıyor ve aslında birçok açıdan tam tersi oldu.
Jensen'in en çok kişiyi memnun etmesi gerektiğini ve bu yüzden en ölçülü şeyi söylemek istediğini anladığını düşünüyorum. Ayrıca bu alan ile bu yönetim arasında en faydalı arabuluculardan biri ve bu yüzden çok iyi katılımlı ve yüksek profilli bu konferansta sahnedeyken başkanın ondan telefon alması, her ikisinin de bu karmaşaya yanıt vermesine olanak tanıdı.
Kirsten: Odadaki yetişkin ve arabulucu olma konusundaki noktan için, o bunu yapabilecek konumda. Ama benim görüşüme göre, biraz sahnelenmiş gibi gelen görünümü bir adım fazla gitti ve Nvidia'nın yapay zekânın tempolanmadan ilerlemesinden büyük ölçüde faydalandığı gerçeğini gerçekten gözler önüne serdi.
Bunu kötümser bulmaktan nefret ederim ama bu benim ilk tepkimdi.
Anthony: Trump'ın ve Huang'ın çıkarları örtüşüyor ve Huang da Trump'ın duymak istediğini söylüyor.
Onun özellikle üzerinde durduğu bazı şeylerin biraz açığa kavuşturulmaya değer olduğunu düşündüm. İlk olarak 'Yavaşlama olmayacak' fikrinden bahsetti. 'Yavaşlama' ifadesi çokça kullanıldı ve ilginç. Aynı zamanda Altman ve Amodei de yavaşlama dilini kullanıyor ama daha çok sevdiği kelime 'tempo' değil mi?
Ve Kirsten, az önce tarif ettiğin bu üç öneri teoride işlerin yavaşlamasına yol açabilir ama bunu açıkça söylemiyorlar. 'Hey, bazı temel güvenlik önlemleri alıyoruz ve birileri bizi gözetliyor' diyorlar. Ama hiçbiri doğası gereği işlerin şu an olduğundan daha yavaş gitmesi gerektiğini söylemiyor, en azından benim anladığım kadarıyla.
Kirsten: Sean'a bir sorum var. Serbest piyasa toplumunda mevcut düzenlemelerimiz var ve korumacılığın olmadığı rekabet ortamında, bir şirket güvensiz bir şey piyasaya sürerse artık sürdürülebilir bir şirket olamayacağını savunamaz mısın? Ve bugün bu şirketlerin peşine düşebilecek düzenleyiciler var. Bu fikri reddediyor musun?
Sean: Bir vakumda ya da bir sürü dış baskı tarafından bozulmayan bir pazarda evet, bunun bir unsuru olduğunu düşünüyorum. Ama şu anda federal hükümetin genel olarak düzenlemeleri uygulamaya istekli görünmediğini, burada özellikle söz konusu olduğunda hiç de değil.
Ayrıca tuhaf bir durumda da varız — nasıl söyleyeceğimi tam bilmiyorum ama bu pazarı tüketicinin tercihi yönlendirmiyor gibi görünüyor. Yani bir şirket gerçekten kötü bir şey yaparsa iptal sayısında bir etki göreceği anlamına gelen bir durum yok.
Özellikle şimdi, kurumsal alana geçtiklerinde ve gelirlerinin çoğunu şirketlere hizmet satarak elde ettiklerinde, parayla oy vermek doğal olarak daha zor. Kurumlar OpenAI'nin bir şey yapmasına prensip olarak karşı çıktıkları için OpenAI'nin Codex'inden Anthropic'in Claude Code'una taşınmayacaklar.
Ayrıca bu kadar çok yatırım parasıyla ayakta tutuluyorlar ki, gerçekten karşılaştıklarında bu kayıpları absorbe etmeleri daha kolay hale geliyor. Bence bu teoride güzel bir fikir ama pratikte bunun hiçbiri gerçekten yaşanmıyor.
