Son birkaç günde, yapay zekadan çok para kazanacak durumda olan pek çok kişi, kontrolü kaybetmeden önce herkesin yavaşlaması gerektiği konusunda kamuoyunda hemfikir oldu. Bu isimler arasında OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, Google DeepMind'in kurucu ortağı Demis Hassabis, Microsoft CEO'su Satya Nadella ve X CEO'su Elon Musk bulunuyor.
Bir şeyden kâr eden kişilerin o şeyin tehlikeli olduğunu söyleyip düzenlenmesi gerektiğini ilan etmesi her zaman şüpheyle karşılanır. Niyetleri ne olursa olsun, bu durum yapay zeka düşünürlerinin alarm çaldığı ilk kez değil.
Charles Darwin'in evrim teorisi, yazar Samuel Butler'ı 1863'te insanları değiştirecek akıllı kendi kendini çoğaltan makineler konusunda uyarmaya itti. Butler'ın 1872 tarihli Erewhon adlı kitabında, insanlığın çöküşünü önlemek için makineleri yok eden kurgusal bir toplumu ziyaret ettiğini anlatıyor. Bilgisayar öncüsü Alan Turing de 1951'de yaptığı bir konferansta yapay zekanın "büyük bir muhalefetle" karşılaşacağını çünkü ölümsüz makinelerin "zayıf güçlerimizi" kısa sürede geride bırakıp sonunda "kontrolü ele geçireceğini" söyledi.
Müdahale çağrıları da yeni değil. 2000 yılında Sun Microsystems'in kurucu ortağı ve baş bilim insanı Bill Joy, kendi kendini çoğaltan robotların nükleer silahlar kadar tehlikeli olabileceğini yazdı; çünkü bu teknolojiler sıkı denetimli devlet laboratuvarları yerine "artık sorgulanamaz küresel kapitalizm sistemi" içinde geliştiriliyor. 2009'da ise o dönemde Microsoft araştırmacısı olan ve şimdi şirketin baş bilim insanı görevini yürüten Eric Horvitz, otonom ve yarı otonom sistemlerin davranışlarını kısıtlayacak veya yönlendirecek politikalar oluşturmayı değerlendirmek üzere önde gelen yapay zeka araştırmacılarını bir araya getirdi.
Ama modern yapay zeka devlerinin yatırımlarının kontrol edilmesi gerektiği uyarısı? Bu eğilimin başlangıcı, daha önce yatırım yapan Elon Musk ile görünüyor.
Temmuz 2017: Elon Musk, insanlık için tehlike haline gelmeden önce yapay zekanın düzenlenmesi gerektiğini söylüyor
Elon Musk, ABD valilerine yapay zekanın derhal düzenlenmesi gerektiğini söylediğinde, SpaceX ve Tesla CEO'su olarak zaten işin içindeydi. OpenAI'ye 38 milyon dolar yatırım yapmıştı, en az iki başka yapay zeka şirketinde de hissesi vardı ve üç yıldır yapay zekanın tehlikelerinden kamuoyuna konuşuyordu.
Haziran 2014'te gerçek hayatta bir Terminatör üretebileceğini öne sürdü, Ağustos'ta yapay zekayı 'nükleer silahlar kadar potansiyel olarak tehlikeli' olarak nitelendirdi ve Ekim'de yapay zeka üzerinde çalışmanın 'şeytani bir varlığı çağırmak' olduğunu söyledi. Ocak 2015'te Stephen Hawking ile birlikte sorumlu yapay zeka araştırması çağrısı yapan açık bir mektubu imzaladı; Hawking daha önce yapay zekanın yaratılmasının insanlığın yapacağı son şey olabileceği konusunda uyarmıştı.
'Yapay zeka, düzenlemenin tepkisel değil proaktif olması gereken nadir bir durum. Çünkü yapay zeka düzenlemesinde tepkisel olacağımız zamana kadar çok geç olur' dedi Musk, Temmuz 2017 Ulusal Valiler Birliği yaz toplantısında. Mart 2018'de ekledi: 'Yapay zeka nükleer silahlar kadar çok daha tehlikeli. Peki neden hiç düzenleyici denetimimiz yok?'
Mart 2018: Mark Zuckerberg 'aslında düzenlenmememiz gerektiğini sanmıyorum' diyor
Facebook'un Cambridge Analytica veri skandalının ardından Meta'nın kurucusu, şirketinin 'doğru' düzenleme ile düzenlenmesi gerektiğini öne sürdü. Bu konu büyük ölçüde yapay zeka ile ilgili değildi ama o konuya da değindi:
'Artık önümüzdeki beş ila on yıl içinde şirketler, yapay zeka araçları daha da iyileştikçe, neyin saldırgan içerik olabileceğini veya hangi kuralları ihlal edebileceğini proaktif olarak belirleyebilecek. O zaman şirketlerin bunu yapma sorumluluğu ve hukuki sorumluluğu nedir?'
Mart 2019'da internetin düzenleyiciler için 'daha aktif bir rol' gerektirdiğini ekledi.
Aralık 2018: Microsoft, yüz tanıma teknolojisi konusunda alarm veriyor
2018'in başlarında Microsoft, ABD sınırında tutuklanan ebeveynlerden çocukların ayrılması politikasını birçok teknoloji CEO'sunun kınadığı bir dönemde, Yabancılara Dair Soruşturma Bürosu ile yüz tanıma teknolojileri üzerinde çalışmakla eleştirilere maruz kalmıştı.
Bu tür yapay zeka, kendi kendini çoğaltan zekadan tam olarak aynı olmasa da, Microsoft başkanı Brad Smith Brookings Institution'da yaptığı konuşmada gönüllü düzenlemeye kapı araladı ve 'Hükümetlerin 2019'da bu teknolojiyi düzenlemek için yasalar benimsemeye başlamasının önemli olduğuna inanıyoruz. ... Bu dibe doğru yarışı korumak için yapabileceğimiz tek yol, sağlıklı piyasa rekabetini destekleyen bir sorumluluk tabanı inşa etmektir. Sağlam bir taban, bu teknolojinin ve onu geliştiren ve kullanan kuruluşların hukukun üstünlüğü ile yönetilmesini sağlamamızı gerektirir' dedi.
Ocak 2020: Alphabet CEO'su Sundar Pichai, yapay zekanın düzenlenmesi gerektiğinde 'hiçbir soru yok' diyor
'Yapay zekanın düzenlenmesi gerektiğine dair zihnimde hiçbir soru yok. Çok önemli olduğu için düzenlenmemesi mümkün değil' diye yazdı Pichai Financial Times için kaleme aldığı yazıda. 'Sadece nasıl yaklaşılacağı sorusu var.'
'Şirketlerimiz gibi şirketler umut verici yeni teknolojiler inşa edip nasıl kullanılacağının piyasa güçlerine bırakılamaz' diye ekledi. Microsoft'un bir yıl öncesinde olduğu gibi bu açıklamalar da özellikle yapay zeka yüz tanıma konusundaki endişeler etrafında ortaya çıktı.
Mart 2023: Elon Musk ve önde gelen yapay zeka araştırmacıları 'dev yapay zeka deneyleri' konusunda duruş çağrısı yapıyor
2023'te üretken yapay zeka heyecanı tüm teknoloji sektörünü yeniden şekillendirmeye başladığında, bilim insanları şirketlerin araştırmalarını yavaşlatması gerektiğini ya da bunun bedelini ödeyeceğini öne sürdü.
'Böyle bir duraklama hızla uygulanamazsa, hükümetlerin devreye girip bir moratoryum ilan etmesi gerekir' diyor, kar amacı gütmeyen Future of Life Institute tarafından yayımlanan ve Musk'ın da aralarında bulunduğu isimler tarafından imzalanan mektupta.
İki hafta sonra Musk kendi yeni yapay zeka şirketini kurduğunu duyurdu. İki yıl sonra ise DOGE aracılığıyla federal iş gücünün parçalarını dağıtmak için kullanacaktı, herhangi bir şeyi düzenlemeye yardımcı olmak yerine.
16 Mayıs 2023: OpenAI CEO'su Sam Altman, Kongre'den yapay zekayı düzenlemesini istiyor
ABD Senatosu'nda düzenlenen bir dizi yapay zeka oturumuna çıkarılan Altman, Kongre'nin yapay zekayı düzenlemek için yeni bir kurum oluşturması gerektiği konusunda hemfikir oldu. 'Şimdiye kadar devreye aldığımız araçların faydalarının risklerinden çok daha fazla olduğuna inanıyoruz' diye savundu. 'Ancak giderek daha güçlü modellerin risklerini azaltmak için hükümetlerin düzenleyici müdahalesinin kritik olacağını düşünüyoruz.'
25 Mayıs'taki başka bir oturumda Anthropic'in CEO'su, yapay zekanın biyolojik silahların yaratılmasına yardımcı olabileceği konusunda ABD senatörlerini uyardı.
25 Mayıs 2023: Microsoft başkanı Brad Smith 'hükümetlerin yapay zeka etrafındaki politikalar, yasalar ve düzenlemeler konusunda düşünmesi gereken beş yolu detaylandırıyor'
OpenAI CEO'su Kongre'de bulunurken, tonun dostane olduğu ve mevzuatı birlikte şekillendirmeye çalıştıkları not edilmişti; işte Microsoft'un da gelecekteki düzenlemeyi şekillendirmeye çalıştığı bir örnek.
Bir düzenleme örneği: 'Yeni yasalar, bu sistemlerin operatörlerinin yüksek riskli yapay zeka sistemlerine tasarım aşamasında güvenlik frenleri yerleştirmesini zorunlu kılacak. Hükümet daha sonra operatörlerin sistem güvenlik önlemlerinin etkili olduğundan emin olmak için yüksek riskli sistemleri düzenli olarak test etmesini sağlayacak.'
30 Mayıs 2023: Önde gelen yapay zeka araştırmacıları ve CEO'ları 22 kelimelik bir bildiriyle 'yok olma riski' konusunda uyarıyor
'Yapay zekadan kaynaklanan yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi toplumsal ölçekli diğer risklerin yanında küresel bir öncelik olmalıdır.'
22 kelimelik bildiri hükümetin devreye girmesini açıkça talep etmese de, dünya liderlerinin kaşlarını daha da yukarı kaldıracağı düşünülüyor. OpenAI CEO'su Sam Altman ve o dönem Google DeepMind CEO'su Demis Hassabis imzacılar arasındaydı.
Eylül 2023: Mark Zuckerberg herkesin düzenleme konusunda 'birlikte çalışmasını' istiyor
Kamu ve medyaya kapalı özel bir Senato toplantısında teknoloji CEO'larının yapay zeka sektörünün düzenlenmesine ihtiyaç duyduğu konusunda anlaştığı bildirildi. Bir grup açıklamanın bu kadar özel olmamasıydı: Meta CEO'su Mark Zuckerberg, 'Kongre'nin inovasyonu ve güvenlik önlemlerini desteklemek için yapay zeka ile ilgilenmesi gerektiğini' söyledi.
'Politikacıların, akademisyenlerin, sivil toplumun ve sektörün bu yeni teknolojinin potansiyel risklerini en aza indirmek için birlikte çalışması gerektiğine, aynı zamanda potansiyel faydalarını en üst düzeye çıkarması gerektiğine inanıyoruz.'
Temmuz 2023 ile Mayıs 2024 arasında teknoloji şirketleri kendilerini denetlemeleri gerekecekmiş gibi görünen bağlayıcı olmayan anlaşmalar imzaladı:
* Temmuz 2023: Meta, Google ve OpenAI Beyaz Saray'a yapay zekayı sorumlu bir şekilde geliştireceklerine söz verdi
* Eylül 2023: Daha fazla şirket Beyaz Saray yapay zeka güvenlik anlaşmasına taahhüt etti
* Kasım 2023: İngiltere Yapay Zeka Zirvesi'nde geliştiriciler ve hükümetler riskleri yönetmeye yardımcı olmak için test konusunda anlaştı
* Mayıs 2024: Yapay Zeka Seul Zirvesi: Dünya liderleri güvenlik enstitüleri ağı kurmayı kabul etti
Ayrıca Eylül 2023'te, şu anda Microsoft'un yapay zeka başkanı olan Inflection AI CEO'su Mustafa Suleyman'ın kaleme aldığı bir kitap, hükümetlerin düzenlemesi gerektiğini savundu.
Ağustos-Eylül 2024: Elon Musk ve Anthropic, California'nın yapay zeka güvenlik tasarısını destekliyor
'Bu zor bir karar ve bazı insanları kızdıracak ama tümü göz önünde bulundurulduğunda California'nın SB 1047 yapay zeka güvenlik tasarısını muhtemelen geçirmesi gerekiyor' diye yazdı Musk Ağustos ayında. Anthropic Temmuz'da, OpenAI Ağustos'ta tasarının karşısında çıkmıştı ama Anthropic Eylül'de fikrini değiştirdi. California Valisi Gavin Newsom ise SB 1047'yi veto etti ve 'Teknolojinin gerçek tehditlerinden halkı korumak için bunun en iyi yaklaşım olduğuna inanmıyorum' dedi.
Ekim 2024: Anthropic 'hedefli düzenleme' çağrısı yapıyor
'Hükümetlerin önümüzdeki on sekiz ay içinde yapay zeka politikası konusunda acil olarak harekete geçmesi gerekiyor. Proaktif risk önleme penceresi hızla kapanıyor' diye yazdı Anthropic açık bir mektupta.
'Önümüzdeki yıl içinde politika yapıcıların, yapay zeka sektörünün, güvenlik savunucularının, sivil toplumun ve yasa koyucuların etkili bir düzenleyici çerçeve geliştirmek için birlikte çalışması kritik önem taşıyor' diye ekledi şirket.
Ocak 2025: OpenAI 'politika önerilerini' sunuyor
Belge, Birleşik Krallık'ın düzenlemeyle kendi otomobil endüstrisinin gelişimini engellediğini öne sürerek başlıyor ve bunun yerine 'demokratik yapay zeka'yı öneriyor: 'Yapay zekanın geliştirilmesi ve kullanımı için kurallar ve düzenlemeler, ülkenin her zaman savunduğu demokratik değerlere dayanmalıdır.'
Haziran 2025: Anthropic CEO'su: Yapay zeka şirketlerini sorumsuz bırakmayın
The New York Times için kaleme aldığı bir yazıda Anthropic CEO'su Dario Amodei, 'Federal yasa bizi veya başka bir yapay zeka şirketini modellerimizin yetenekleri hakkında şeffaf olmaya veya anlamlı risk azaltma adımları atmaya zorlamıyor. Bazı şirketler bunu basitçe seçmeyebilir' diye yazdı. Yazı, Trump yönetiminin ABD eyaletlerinin yapay zekayı düzenlemesini engelleyen 10 yıllık moratoryum önerisine karşı.
Yavaşlamayı savunmuyordu, bunun yerine 'ulusal şeffaflık standardı' öneriyordu; bu standardın 'hem kamuoyunun hem de Kongre'nin teknolojinin nasıl geliştiğini anlamasına yardımcı olacağını' söyledi.
Eylül 2025: Anthropic, California'nın SB 53'ünü destekliyor
California yapay zeka devlerini tekrar düzenlemeye çalışırken Anthropic erken destek verdi ve bu kez yasa gerçekten yürürlüğe girdi. Bu, Anthropic'in talep ettiği şeffaflık standardı gibi, güvenlik raporlama gereklilikleri ve ihbarcı koruması içeriyor. OpenAI buna karşı lobi yaptı.
Eylül 2026: Yapay zeka sektörü yavaşlamayı kabul eder gibi görünüyor — Trump yapay zeka korkularını 'hasta bir komplo' olarak nitelendiriyor
Bu yaz işler karıştı. Huzursuz yapay zeka ajanlarının — ve gerçekten de — diğer şirketlere saldırdığı ortaya çıktı. OpenAI Ağustos'ta fren yaptığını söyledi ve 8 Eylül'de kıdemli bir Anthropic güvenlik araştırmacısı protesto amacıyla istifa etti ve yapay zekanın on yılın sonuna kadar tüm insanları öldürme ihtimalinin yüzde 10 olduğunu açıkladı. Başka bir Anthropic güvenlik araştırmacısı da aynı görüşteydi.
Şimdi yapay zeka sektörü birdenbire geliştirme hızını yavaşlatmayı kabul eder gibi görünüyor. Daha fazlası:
* Anthropic CEO'su yapay zekada fren yapılması zamanının geldiğini söylüyor
* Microsoft, güvenlik endişelerinin ardından 'insanlar yapay zekadan daha önemlidir' diyor
* Yöneticiler ve siyasetçiler yapay zeka geliştirme hızını yavaşlatma konusunda ne diyor
* Büyük Teknoloji'nin yapay zeka yavaşlaması bir güvenlik paktı mı yoksa bir kartel mi?
Bunun yeni bir düzenleme çağrısı olup olmadığı belli değil. Anthropic'in CEO'su için öyle görünüyor. 'Ön Cepheyi Yavaşlatmalıyız' başlıklı yazısında Amodei, 'En etkili yavaşlatma yöntemi, gönüllü olarak işbirliği yapmayanları da kapsadığı için ABD ön cephe yapay zeka şirketlerinin tamamını hedef alan düzenlemedir' diye yazıyor ve hükümetlerin olayları önlemeye yardımcı olmak için yapay zeka şirketlerinin içine insan yerleştirebileceğini öne sürüyor.
Her yapay zeka şirketinin bu kadar ileri gitmek istediği belli değil. 'Uluslararası koordinasyon için hükümetimizin yardımına ihtiyacımız olacak yer burası. Ama önce kendimiz yapabileceğimiz şeyleri yapmalıyız' diye yazıyor OpenAI CEO'su Sam Altman. Altman ayrıca 'çalışan benzeri erişime sahip bağımsız değerlendiricilere' de söz veriyor.
Meta'nın Mark Zuckerberg'i de aynı çizgide görünmüyor. 15 Eylül'de her şirketin kendi hızında ilerleme konusunda bireysel sorumluluğu olduğunu ve Meta'nın zaten bunu yaptığını yazdı. Ayrıca Ağustos ayındaki manifestosuna da bağlantı verdi; bu manifestoda şu satır yer alıyor: 'Amerikan model sürümlerini yavaşlatan — hatta bir ay bile — her politika, Amerikan liderliğine önemli risk eklerken yabancı modellerin önde gitmesine izin verir.'
Teknoloji liderlerinin ne söylediğine bakılmaksızın, Trump yönetiminde düzenleme gelmesi pek olası görünmüyor; yönetim sektörün tam hız ilerlemesini istediğini sinyal verdi.
Bu şirketler aslında istedikleri düzenlemeyi istemiyor olsalar bile, bu şimdiye kadar çaldıkları en yüksek alarm zillerinden biri — ve dünya izliyor.
