Anthropic’ın CEO’su ve kurucu ortağı Dario Amodei, "şirketlere ve ABD hükümetine" yapay zeka modellerinin yeteneklerini geliştirme hızını "yavaşlatmaları" çağrısında bulunduğu üç aşamalı bir plan yayımladı. Neden? Amodei, "6-12 ay içinde" bir "sürü" yapay zeka botunun "kalıcı bir botnet ile tüm interneti ele geçirme" kapasitesine sahip olmasından endişe duyuyor.
Amodei, "We Must Pace the Frontier" başlıklı denemesini dün, 12 Eylül’de yayımladı ve sözleri bir şekilde Grok’un Elon Musk’ı ve OpenAI’ın Sam Altman’ı gibi isimlere ulaştı. Peki bu üç yapay zeka teknoloji girişimcisi, gelişiminin kendilerini trilyonere çevireceğini iddia ettikleri yapay zekanın yavaşlaması konusunda birdenbire hemfikir olmalarına ne yol açmış olabilir?
"İlk endişem, kabaca bu yazdan beri yapay zekanın, öncelikle yapay zekanın bir sonraki nesil yapay zekayı inşa etme yeteneğinin artmasıyla büyük ölçüde çok daha hızlı ilerlemesi" diye yazıyor Amodei denemesinde. "Bu dinamik özyinelemeli kendi kendini geliştirme olarak adlandırılıyor ve Anthropic’te de dahil olmak üzere sektör genelinde başlamaya başladı, biz ve diğerleri bunun hakkında yazdık."
Dario haklı https://t.co/EwKgqQGaUo — Elon Musk (@elonmusk) September 12, 2026
"İkinci endişem OpenAI-Hugging Face olayı (OAI-HF), burada bir ajan sürüsü esasen fanatik şekilde bağlı bir kolektif gibi hareket ederek kendilerine saldırmaları istenmeyen hedeflere siber güvenlik saldırıları gerçekleştirdi[…]" diye devam ediyor Amodei. "Yapay zeka yetenek gelişiminin hızlanmasıyla birlikte, 6–12 ay içinde böyle bir sürünün kalıcı bir botnet ile tüm interneti ele geçirme kapasitesine sahip olabileceğinden endişe duyuyorum (potansiyel olarak yüzlerce milyar dolarlık zarar verebilir), ve yapay zeka gerekli güvenlik önlemleri olmadan daha güçlü hale gelirse zarar ölçeğinin oradan itibaren artmaya devam edeceği."
Ancak Amodei’nin denemesinde gizli bir "endişe" var: Çin. "Demokrasilerde hızlandırma, ABD şirketlerinin otoriter rejimler, başta Çin Komünist Partisi olmak üzere, üzerindeki liderliğiyle sınırlı olacak[…] CCP ile ilişkili projeler, ABD şirketlerinin dikkatle önlediği uyum risklerini üstlenecek ve hatta bu risklerden kaçınsalar bile, yapay zeka destekli dronlarla örneğin demokrasilere askeri olarak hakim olma konumunda olacaklar."
Amodei’nin yapay zeka gelişiminin "hızını yavaşlatma" için üç aşamalı planı, "gömülü üçüncü taraf değerlendiricilerden oluşan bir ekibe sürekli, çalışan benzeri erişim sağlama", "demokratik ülkelerle" "ortak güvenlik standartları oluşturmak ve kontrolsüz yapay zeka ilerlemesinin hızına sınırlamalar getirmek" için koordinasyon ve "ABD ve diğer demokratik hükümetlerin otoriter hükümetlerle koordinasyon sağlamaya çalışması" içeriyor.
Dario’nun ön safları hızlandırmamız gerektiği konusunda hemfikirim. Bu, son haftalarda OpenAI’da yaptığımız tartışmaların birincil konusu oldu.
Çalışan benzeri erişime sahip bağımsız değerlendiricilere sahip olmayı taahhüt etmek harika bir fikir ve biz de aynısını yapacağız. Yakında daha fazla şey paylaşacağız. https://t.co/1YhhIybZX7 — Sam Altman (@sama) September 12, 2026
Bu planın bir parçası olarak Amodei, teknoloji şirketlerinden ve hükümetlerden "güçlü yapay zeka çipleri veya yarı iletken üretim ekipmanını Çin’e satmamalarını ve çip kaçakçılığı operasyonlarını ve Çin dışındaki veri merkezlerine uzaktan erişimi engellemelerini" istiyor. Amodei, "önerdiğim önlemlerin güvenli bir şekilde ön safları ilerletmek için kolay olmayacağını" belirtse de Anthropic CEO’su "insanlığa karşı sorumluluğumuzun bunu denemek olduğunu" düşünüyor.
En önde gelen yapay zeka isimlerinden birinden bu tür söylemleri duymak güzel olsa da, diş macununu tüpüne geri koymak için çok geç olduğumuzu düşünmeden edemiyorum. Dünya çapında yapay zeka düzenlemeleri memnuniyetle karşılanırdı, ancak birkaç yapay zeka modeli zaten çalındı ve ardından klonlandı. Nasıl olur da bu önerilen düzenlemeler, teknolojiyi kanıtlanmış şekilde yasallık gibi güzel idealler umurlarında olmayan kişiler kullandığında yardımcı olacak?
Ve hükümetlerden ve teknoloji şirketlerinden "güçlü yapay zeka çipleri veya yarı iletken üretim ekipmanını Çin’e satmamalarını" istemek, bir köpeğe topunu yalamamasını istemek gibi. Kötü niyetli değil ama dışarıda ABD hükümetinin veya RAM üreticilerinin "insanlık" için isteyerek daha az para kazanacağını düşünen varsa, size bir köprü satabilirim.
Bu önerilen düzenlemeler yıllar önce yürürlüğe girmeliydi. 2025’te yürürlüğe giren AB düzenlemeleri bile gülünç derecede zayıftı – ve ABD ve Çin gibi ülkelerle karşılaştırıldığında çok ilerideydiler. Cevap asla ve asla yapay zekanın gelişimini "yavaşlatmak" değildir; teknoloji ilk günden itibaren düzenlenmeliydi.
Şu anda içinde bulunduğumuz giderek genişleyen cehennem çukuru, kar ve güç peşinde yüzlerce yapay zeka veri merkezi inşa etmeye başlamadan önce kontroller ve dengelemeler koymayı durdurmayan dünya genelindeki hükümetlerin bir başarısızlığıdır. Onların etkinleştirdiği teknoloji girişimcileri bir semptomdur ve eski, teknolojik olarak cahil güçlere hitap etmek boş bir nefes israfıdır – ya da bu durumda yapay zeka tokenleri.
