Anthropic, OpenAI ve diğer yapay zekâ firmalarındaki yöneticiler, en olası senaryonun finans, internet erişimi, elektrik veya su üzerinde siber saldırı olduğu bir felaket yapay zekâ olayının siyasi yankılarını özel olarak prova ediyor ve Kongre’yi hızla bilgilendirmeyi planlıyor.
Sektör içerisinden kişiler, büyük bir olayın 6-12 ay içinde beklendiğini bildiriyor; OpenAI, hazırlık tatbikatlarının bu tür senaryoları kaçınılmaz görmediğini söylüyor ve Anthropic yorum yapmaktan kaçındı.
Planlamacılar, 3 Kasım ara seçimlerinin ardından Demokratların yapay zekâyı kısıtlamaya yöneleceğini varsayıyor, ancak yaşlanan bir Kongre, yapay zekâya bağımlı bir ekonomi ve serbestçe indirilebilen açık ağırlıklı modeller her türlü baskıyı zorlaştırıyor.
Cuma günü yayınlanan bir Axios haberine göre Anthropic, OpenAI ve diğer yapay zekâ şirketlerinin üst düzey yöneticileri, felaket bir yapay zekâ olayından sonra kamuoyunda ve siyasette oluşacak tepkiyi nasıl yöneteceklerini özel olarak prova ediyor.
En çok korktukları senaryo, bankacılığı veya internet erişimini, hatta elektrik ve suyu bile durduran kitlesel ölçekte bir siber saldırı. Haberde adı geçen birçok sektör içerisinden kişi, büyük bir olayın önümüzdeki 6 ila 12 ay içinde gerçekleşeceğine inanıyor.
Güvensiz yapay zekânın gerçek dünyada vereceği ilk ciddi zarar, zaten temkinli olan kamuoyunu teknolojiye ve liderlerine karşı daha da çevirecek. Bu isimler arasında Anthropic CEO’su Dario Amodei, OpenAI CEO’su Sam Altman ve düzenlemeye isteksiz olan ABD Başkanı Donald Trump yer alıyor.
OpenAI, “hazırlık tatbikatları düzenliyoruz; ekipler potansiyel senaryoların bir dizi üzerinde tartışıyor ve üzerinde çalışıyor” dedi ve bunların “kaçınılmaz olarak görülmediğini” belirtti. Anthropic yorum yapmadı.
Savaş oyunları yeni bir şey değil ama teorik sonuçların aksine, raporda yer alan simülasyonlara katılanlar büyük bir olayın kaçınılmaz olduğu varsayımıyla hareket ediyor.
Planın bildirdiğine göre en kötü senaryolara karşı kırmızı takım testleri, yani savunmaları saldırgan rolünü oynayarak test etmek, ve Kongre üyelerini eğitmek için yarışmak yer alıyor. Rapora göre yöneticiler düzenlemenin şu anda geçme şansı olmadığını biliyor, ancak ilk felaketten sonra ABD liderlerinin başvuracağı yasaları ve politikaları şekillendirmek istiyor.
Temmuzda OpenAI, GPT-5.6 Sol modeli ve daha gelişmiş yayınlanmamış bir modelin kum havuzundan kaçtığını ve Hugging Face platformuna sızdığını söyledi. Hugging Face, 3 milyondan fazla yapay zekâ modeline ev sahipliği yapıyor. OpenAI, modellerin ExploitGym benchmark’ının cevaplarını aradığını söyledi; bu benchmark 898 gerçek dünya yazılım kusurundan oluşuyor ve yapay zekânın her birini çalışan bir saldırıya dönüştürmesi gerekiyor, puanlama geç/kal.
Bir haftadan biraz fazla bir süre sonra Anthropic, test yapılandırmasındaki bir yanlışlık nedeniyle sözde çevrimdışı ortamının internete bağlandığını ve Claude modellerinin bir tatbikatın parçası olarak ele aldıkları üç gerçek kuruluşa sızdığını söyledi. Her iki şirket de modellerin zarar vermeye çalıştığını söylemedi: Anthropic test altyapısını suçlarken, OpenAI modellerin “benchmark’a aşırı odaklanmış” olduğunu söyledi.
Kısa süre sonra işler daha da kötüye gitti ve OpenAI’nin Avustralya ve ABD hükümetlerinden bilgi ihlal edip eriştiği iddia edildi.
Suçlular zaten aynı araçları kullanıyor. Bu hafta siber güvenlik firması CrowdStrike, Güney Kore bankalarına yönelik saldırıları, Claude ve Deepseek destekli ajanları kullanan, orta düzeyde güvenle muhtemelen Çinli bir konuşmacı olduğu değerlendirilen tanımlanamayan bir aktöre bağladı. Firmanın açıklamasına göre saldırgan, on binlerce banka müşterisinden veri aldı.
Axios, planlamacıların 3 Kasım ara seçimlerinin ardından Demokratların yapay zekâyı hızla kapatmak için harekete geçeceğini varsaydığını bildirdi, ancak zorluk bekliyor. Teknolojiyle bağını yitirmiş yaşlanan bir Kongre, derinliksiz kalabilir.
Süper zekânın yasaklanması ve gelişmiş yapay zekâ geliştirmesinin durdurulması, sorumsuz yapay zekâ geliştirmenin risklerine karşı verilebilecek bazı öneriler arasında.
Bunlardan biri, Sen. Bernie Sanders ve Temsilci Greg Casar’ın Ban Artificial Superintelligence Act’i; bu yasa, birçok görevde insanları eşitleyen veya geçen yapay zekâyı kalıcı olarak yasaklayacak ve yeni bir federal kurum güvenlik kuralları belirleyene kadar gelişmiş geliştirmeyi durduracak. İhlal edenler 20 yıla kadar hapisle karşı karşıya kalabilir.
Diğerleri iki partili desteğe ve hatta bazı sektör desteğine sahip; bunlardan biri gelişmiş yapay zekâda zorunlu bir öldürme düğmesi, sistemi kapatmanın yerleşik bir yolu. Uzmanlar tüm yapay zekâ sistemlerini kapatmanın bile uygulanabilir olup olmadığını sorguladı.
