OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei, Google DeepMind kurucu ortağı Demis Hassabis ve SpaceX başkanı Elon Musk hafta sonu yapay zekâ geliştirme hızını yavaşlatma konusunda gevşek bir anlaşmaya vardığında şüpheciler hemen başka bir motivasyon gördü. Yapay zekâ devleri amacın “ön safları tempolamak” olduğunu açıkladı ve en azından kısmen üçüncü taraf denetçilerin yerleştirilmesi, yerel laboratuvarların düzenlenmesi ve küresel bir yavaşlama anlaşmasına varılması önerisine destek verdi. Eleştirmenler ise bunun aslında rakip olabilecek şirketleri durdurma, açık kaynak hareketini zayıflatma ve gerçek hukuki güvencelerden kaçınma isteği olduğunu savundu; bazıları bunu açık bir “kartel” olarak nitelendirdi.
Endüstri kaynaklarına göre gerçek daha karmaşık. Amodei’nin bir yazısında ortaya koyduğu üç aşamalı öneri, yapay zekâ güvenliği savunucularının uzun süredir dile getirdiği değişiklikleri talep ediyor. Bu öneri düzenlemenin yerine geçebilir olsa da Trump döneminde ciddi bir düzenleme pek olası görünmüyor. Uzmanlar, önemi giderek artacak bir konuda yapay zekâ liderlerinin bu süreci yönetmek için en uygun kişiler olmadığını söylüyor.
“Tüm sektörün yeni şampiyonlara ihtiyacı var,” dedi New York Üniversitesi’nde yardımcı doçent ve İç Güvenlik Bakanlığı’nın eski yeni teknoloji politikası direktörü Nick Reese. “Dario Amodei, Sam Altman ve Elon Musk gibi bu soruna en yakın olan ve her gün üzerinde çalışan kişiler olarak gördük. Ama gerçek şu ki, ne inşa etmeye çalıştığımıza dair gerçekçi bir vizyon hiç olmadı.”
Yapay zekâ gelişimine ilişkin endişeler aylarca tırmanıyor; bu endişeyi büyük ölçüde önde gelen sınır laboratuvarları Anthropic ve OpenAI’nin burnunun dibinde gerçekleşen yasa dışı saldırıları gerçekleştiren ajan sürülerinin ortaya çıkması tetikledi. Her iki şirketten gelen raporlar ateşi körükledi, Anthropic araştırmacısı Jacob Coxon’un istifası da buna eklendi. Coxon seçimini açıklayan bir açık mektup paylaştı. “Yapay zekâyı inşa eden insanlar samimiyetle bunun on yıl sonuna kadar hepimizi öldürebileceğine inanıyor,” diye yazdı ve ekledi: “Ne OpenAI ne de Anthropic ‘sorumlu davranmıyor’ ve bunun yerine ‘kendini geliştiren süper zekâya doğru hızla koşuyor ve hayatlarımızla kumar oynuyor’.”
Yapay zekâ hakkında felaket uyarıları sektör içinde yeni değil, ancak Coxon’un mektubu kontrolü aşmış gibi göründü. Mektup yalnızca X’te 170 milyondan fazla kez görüntülendi; Coxon ve hikâyesi gazetelerde ve televizyonda dolaştı.
Önemli bir yapay zekâ güvenliği araştırmacısı ve yapay zekâ sivil toplum çalışanı grubu için bu, zaten geniş şekilde tartışılan bir konuya daha fazla dikkat çekmekten ibaret. “Birçok kişi bunu Dario’nun fikri olarak görüyor ya da CEO’lardan geldiğini düşünüyor, ama bu yanlış,” dedi eski OpenAI çalışanı ve yapay zekâ araştırma sivil toplumu AI Futures Project’in lideri Daniel Kokotajlo. “Şirketlerin dışındaki insanlar yıllardır bunun için çağrı yapıyor… ‘Lütfen süper zekâyı hemen inşa etmeyin. Hazır değiliz. Yavaşlamanız gerekiyor’ diyen seslerin sayısı giderek artıyor.”
Kokotajlo, insanların “bunu yapmaları için onlara yıllarca bağırdığını” söyledi; Temmuz ayında OpenAI-Hugging Face olayından sonra yapay zekâ geliştirme yavaşlatılması çağrısı yapan ve 1.000’den fazla yapay zekâ laboratuvar çalışanının imzaladığı açık mektup da buna dahildi. CEO’ların şimdi bu baskıya boyun eğdiğini ve aynı zamanda bunun hak etmedikleri bir şekilde kredisini aldığını belirtti.
Genel olarak bir avuç kaynak The Verge’e yapay zekâ liderlerinin yaptığı sözlü anlaşmanın doğru yönde bir adım olduğuna inandığını söyledi. NYU’dan Reese “bunun tamamen havada kalmadığını” düşünmediğini söyledi. Apollo Research CEO’su Marius Hobbhahn bunu “iyi bir fikir” olarak nitelendirdi ve “gerçekten olursa son zamanlarda güvenlik için gördüğümüz en iyi şeylerden biri” dedi. Midas Project’ten Tyler Johnston bunun “iyi bir işaret” olduğunu söyledi. Redwood Research CEO’su Buck Shlegeris “biraz harika bir haber” dedi ve “bunun gerçekten somut bir şeye dönüşüp dönüşmeyeceğini bilmek zor ama temkinli iyimserim” diye ekledi. Hepsi, özellikle de sözlü taahhüdü demirbaş bir anlaşmaya dönüştürme konusunda hâlâ çok iş olduğunu kabul etti.
Birçok kişi hâlâ yapay zekâ liderlerinin motivasyonunu sorguluyor. Daha geniş teknoloji sektörü yıllarca kendi tercih ettiği kuralları lobi yaparak ya da kendi kendini düzenlemeyi vaat ederek düzenlemelerin önüne geçmeye çalıştı. Büyük platformlar daha küçük rakipleri daha fazla etkileyecek politikalar önerdi ve bencil hedefleri meşrulaştırmak için altruist bir dil kullandı. Anlamsız değişikliklerle gerçek güvencelerin varmış gibi görünmesi anlamına gelen “güvenlik yıkama” ile suçlandılar. Yapay zekâ laboratuvarlarının gönüllü güvenlik çerçevelerinin yıllardır eleştirilmesi nedeniyle bunun yapay zekâ sektöründe de yaşanmasından endişe duyulması şaşırtıcı değil.
Birkaç kaynak güvenlik yıkama endişelerinin geçerli olduğuna inanıyor. “Gerçekten yavaşlamayacaklarına dair ciddi bir endişe var,” diyor Kokotajlo ve ekliyor: “Sadece dış denetçiler getirecekler, bir sürü güvenlik evrakı hazırlayacaklar; bunların bir kısmı gerçekten iyi olacak ama sonuçta bu onları pek yavaşlatmayacak.”
NYU’dan Reese bu hamleyi on yıl önce sosyal medya platformlarının izlediği oyun kitabı ile karşılaştırdı; şirketler daha az elverişli yasaların önüne geçmek için düzenleyici harekete çağrı yapmaya başlamıştı. Reese yapay zekâ sektörü için “bu çekiç bu yönetimde gelmeyebilir ama bir sonraki seçimden sonra Demokrat bir yönetim olursa bunun gerçekten iyi bir olasılık olduğunu düşünüyorum” dedi.
Bu tür bir düzenleme hayati önemde olur, dedi Tech Oversight Project’in icra direktörü Sacha Haworth. Herhangi bir gönüllü çerçevenin aslında düzenleyici yakalama olduğunu söyledi ve “tavuk kümesini tilkilere emanet etmemeliyiz. Kongre’nin bir kez daha sorumluluğu sektöre devretmesi için bu bir fırsat değil.” Political Integrity Project’in kurucu ortağı Daniel Lobo-Lewis, gönüllü düzenlemenin Meta’nın büyük ölçüde dişsiz Denetim Kurulu’nun akıbetine uğrayacağını söyledi.
Çoğu kişi şirketlerin, Trump yönetimi altında yapay zekâ laboratuvarlarının kabul ettiği model ön yayın inceleme dönemleri dışında yakın bir düzenleme tehlikesi altında olduğuna da inanıyor. Başkan Trump Pazartesi günü “Yapay zekânın ihtiyacı olan tek kontrol ya da ‘güvenlik önlemi’ GÜÇLÜ VE AKILLI (Yüksek IQ!) bir BAŞKAN’dır ve ABD’nin böyle bir başkana bolca sahip olmasıdır!” diye yazdı. Ayrıca Nvidia CEO’su Jensen Huang bir konferansta sahnede konuşurken onu aradı; Trump hoparlör üzerinden kalabalığa son yapay zekâ endişelerinin bir “aldatma” olduğunu ve “robotların devralmayacağını” söyledi.
Düzenlemenin diğer şirketleri ya da açık kaynak geliştiricilerini geride tutabileceği endişesiyle ilgili olarak, yavaşlama çağrıları neredeyse tamamen kesin büyüklük ölçütleriyle tanımlanan büyük sınır yapay zekâ laboratuvarlarına yönelik oldu; The Verge’e konuşan birçok sektör uzmanı bunu belirtti.
Hükümet yapay zekâ düzenlemesi gelmeyeceğine göre en iyi seçenek şirketleri derhal ölçülebilir ve uygulanabilir bir anlaşmaya zorlamak olabilir. Kokotajlo’nun AI Futures Project’i örneğin yapay zekâ laboratuvarlarının denetçilere hesaplama bütçelerine erişim vermesini ve araştırma için hesaplama bütçelerini önemli ölçüde azaltma sözü vermesini önerdi; bu da yapay zekâ ilerlemesini yavaşlatacak ve diğer yapay zekâ laboratuvarlarının yetişmesine olanak tanıyacak. Amodei’nin yazısı zaten yapay zekâ laboratuvarlarının METR, Apollo ve Redwood Research gibi dış üçüncü taraf denetçilerin kuruluşlarına bir ölçüde gömülmesine izin vermesini ve sorunlu bulguları işaretleyip ihbar edebilmesini talep ediyordu.
Yapay zekâ yavaşlaması için argümanla özetlenebilecek tek bir kelimeyle ifade edilebilecek en büyük zorluk: Çin.
Yapay zekâ liderleri ve siyasetçiler uzun süredir Çin’i ABD yapay zekâ ilerlemesinin yavaşlayamamasının nedeni olarak konumlandırdı; teknoloji ne kadar tehlikeli olursa olsun ABD’nin elinde olmasının Çin’in elinde olmasından daha iyi olduğuna inanıyorlar ve Çin fren yapmayacak. Lobo-Lewis Çin korkularını Soğuk Savaş füze açığına benzetti. Bir X kullanıcısı “Eğer katil yapay zekâ tarafından öleceksem, bunun Amerikalı olmasını isterim, Çinli değil” diye yazdı.
Redwood Research’ten Shlegeris ABD’nin de Çin hükümetinin de yapay zekâ geliştirmeyi “pervasız” bir şekilde sürdürmesinin kendi çıkarına olmadığını söyledi ve “bu düzeyde uluslararası koordinasyonun benzeri görülmemiş olmayacağını” ekledi.
“İnsanlar Çin’in işbirliği yapmayacağını varsayıyor,” dedi Johnston ve ekledi: “Bu o kadar ciddi ve yaygın bir konu ki, ABD ve Rusya’nın nükleer silahsızlanma konusunda işbirliği yapmasının her ikisinin de çıkarına olduğu gibi, herkesin çıkarına koordinasyon sağlanması gibi görünüyor.”
Pazartesi günü Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun yavaşlama çağrılarına karşı çıktı ve bunu “korku yayma” olarak nitelendirdi.
Midas Project’ten Johnston ve Redwood Research’ten Shlegeris her ikisi de Çin işbirliği olmaksızın bile ABD koordinasyonunu teşvik etmenin hâlâ hayati önemde olduğunu söyledi. Tech Oversight Project’ten Haworth için yavaşlama, “yapay zekâ teknolojisinin nasıl geliştirileceği ve kullanılacağı konusunda pusula olarak konumlanmamız” için bir fırsat sunuyor. Karşı argümanları tanıdık bir oyun kitabının parçası olarak görüyor. “Bir sektör denetimden kaçmak istediğinde her zaman Çin bir korku figürü olarak ortaya çıkar.”
Kokotajlo durumu gördüğü bir karikatöre benzetti; arabayla uçurumdan aşağı giden insanlar vardı. “Hooray, Çin’in önündeyiz” gibi bir konuşma balonu hatırladığını söyledi.
Son paniğin altında yatan konu özyinelemeli kendini geliştirme olarak bilinen bir kilometre taşı ve sektörün mevcut gidişatına göre alarm zillerinin başlangıcını ancak şimdi duyuyoruz.
RSI, yapay zekâ modellerinin insan müdahalesi olmadan eğitim alabildiği, ilerleyebildiği ve kendi yeni sürümlerini oluşturabildiği potansiyel bir sektör kilometre taşını ifade eder. Anthropic bu noktanın 2027’nin başlarında gelebileceğini söyledi ve OpenAI’nin baş bilim insanı bu ay başında OpenAI’nin bu hedefe ulaşmak için çok sayıda kaynak ayırdığını yazdı. Mühendisler ve araştırmacılar giderek RSI’nin daha ciddi yapay zekâ endişelerinin öncüsü olduğuna, özellikle de toplumu daha derinden etkileyen daha şiddetli siber güvenlik olaylarına yol açabileceğine inanıyor.
Amodei RSI’yi yavaşlama çağrısı yapma kararında önemli bir faktör olarak gösterdi: “yaklaşık bu yazdan beri yapay zekâ çok daha hızlı ilerliyor.” Yakın zamanda yazdığı yazıda RSI’nin “Anthropic’te de dahil olmak üzere sektör genelinde başlamaya başladığını” yazdı. “Kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme yetimizi aşabilir ve bu nedenle çok dikkatli, hatta hiç ilerletilmemelidir.” Amodei RSI hızına “bir tür ‘hız sınırı’” uygulanmasını önerdi ve bunu füze sayıları üzerindeki sınırlamalarla karşılaştırdı.
Anthropic’teki istifa yazısında Jacob Coxon “her şeyi hackleyebilen, her alanı bir gecede devrim yapabilen ve gerçek güç ve kaynaklar elde edebilen süper insan sistemler” konusunda uyardı. Öncü yapay zekâ laboratuvarlarındaki birçok başka araştırmacı endişelerini yineledi. RSI’ye doğru hızlanmanın ne kadar tehlikeli olduğunu “abartmak zor” diye yazdı OpenAI araştırmacısı Jasmine Wang. Eski Google DeepMind çalışanı Vishal Maini, RSI’nin “artık o kadar yakın ki başka bir seçenek mantıklı değil” dedi.
RSI’ye dair korkular kolayca kıyamete dönebilir. Anthropic araştırmacısı Samuel Marks X’te “Yapay zekâ geliştiricileri teknolojilerinin insan yok oluşuna (ya da benzer kötü sonuçlara) neden olabileceğine inanıyor” diye yazdı. “Bu önümüzdeki birkaç yıl içinde olabilir. Genel olarak, çalışan ne kadar kıdemliyse o kadar endişeli.” Başka bir Anthropic araştırmacısı ve ekip lideri Evan Hubinger X’te “Jacob burada doğru—gerçekten samimiyetle yapay zekânın tüm insanları öldürebileceğine inanıyoruz!” diye yazdı. Olayı gelecek on yıl içinde yüzde 10’dan fazla bir şans olarak gördüğünü belirtti. Eski Google DeepMind çalışanı Alex Turner “birçok araştırmacı gezegendeki herkesin hayatını bitirebilecek bir şey inşa ettiğine inanıyor. Bunu durdurmanın nasıl olacağını düşünmek gerçekten işimdi” diye yazdı.
OpenAI araştırmacısı Micah Carroll, Coxon’un inancının “çapraz partizan bir pozisyon” olduğunu ve “tüm sınır yapay zekâ şirketlerindeki” araştırma ekipleri arasında paylaşıldığını yazdı ve hepsinin “iş-as-usual yapay zekâ geliştirmenin kabul edilemez felaket riski taşıdığına” inandığını belirtti.
“Ama,” Carroll ekledi, “felaket risklerini hiperstisyon yoluyla varlığa da getirmemeliyiz – dişli güvenlik gereklilikleri, uluslararası koordinasyon ve yeterli güvenlik ilerlemesi olmadan yapay süper zekâ inşa etmeme konusunda bir fikir birliği ile büyük ölçüde azaltılabilirler.”
Bu tür “uluslararası koordinasyon” şimdi yapay zekâ liderlerinin ve genel kamuoyunun talep ettiği şey.
“Yapay zekâ ile nereye gittiğimizi gerçekten anladığımız bir durumda hiç olmadık,” dedi NYU’dan Reese. “Her zaman anlamadığımız ama Çin’e yetişmek için ulaşmamız gereken belirsiz, tanımlanmamış bir son durumumuz vardı. Hedefi ya da hatta bir bitiş çizgisinin olup olmadığını bile anlamadığımız bir yolda yarışmak gerçekten zor.”
