Teknoloji sektörü yapay zeka güvenliği konusuna nasıl yaklaşmalı? Bu soruya giderek daha fazla üst düzey yönetici yanıt veriyor. Hugging Face olayında olduğu gibi — bir OpenAI ajanı birkaç farklı şirketi hackledi — yapay zekanın dünyamızı kaosa sürükleyecek eşiğe geldiğini gösteren olaylar üzerinden tartışma sürüyor.
Son haftalarda önde gelen laboratuvarlar yapay zeka gelişiminin yavaşlatılması çağrısı yaptı. En çarpıcı şekilde CEO Dario Amodei, yapay zeka geliştirmenin yeterli güvenlik önlemleri kurulabilmesi için yavaşlatılması gerektiğini savunan yaklaşık 4 bin kelimelik bir yazı kaleme aldı. Bu plan arasında şirketler ve hükümetler arasında güvenli dağıtım konusunda uluslararası iş birliği stratejisi de yer alıyor. Rakip yapay zeka yöneticileri — OpenAI’den Sam Altman ve xAI’den Elon Musk — Amodei’nin planını destekledi.
Yazı teknoloji sektöründe daha fazla konuşma başlattı, ancak herkes Amodei’nin küresel koordineli eylem çağrısıyla aynı fikirde değildi. Gerçekten de birçoğu hükümet denetiminin hiç rol oynamaması gerektiğini düşünüyor gibi görünüyor.
Bu tartışmaya son katılanlardan biri bu hafta düşüncelerini X’te paylaşan Meta CEO’su Mark Zuckerberg oldu.
“Görüşüm, güven ve uyumun ajanları ve modelleri ayıracak en önemli yetenekler haline hızla geldiği yönünde.” Zuckerberg şirketinin güvenlik endişeleri nedeniyle yapay zeka modelinin çıkışını ertelediğini açıkladı. “Meta, güvenlik ve güvenliğe odaklanmak için Muse’u birkaç ay erteledi,” dedi Zuckerberg. “Bunu herkesin yapması için çağırmadık. Biz sadece günlük işimizin bir parçası olarak yaptık çünkü bu insanların ve bizim için açıkça doğru olan şeydi.”
Amodei’nin planının bazı kısımlarını destekleyen Zuckerberg, hükümet eylemine gerek olmadığını ve sektörün organik teşviklerinin şirketleri güvenliği doğru yapmaya zorlayacağını ima ediyor gibi görünüyor. Pazar nihayetinde kaosa neden olmayan modeller oluşturmak için özen gösteren şirketlerin başarısını getirecek. Bu, geçen ay kaleme aldığı ve hükümetle sınırlı iş birliğini savunan ancak büyük ölçüde Amerikan rekabetçiliğini teknolojik geleceğin anahtarı olarak öven kapsamlı yazısıyla da uyumlu görünüyor.
Genel olarak bu, birçok başka teknoloji yöneticisinin de pozisyonu gibi görünüyor.
Bir diğer üst düzey yönetici olarak söz alan Reddit’in kurucu ortağı Alexis Ohanian, Çarşamba günü CNBC’ye yapay zeka risklerini kamuoyuna anlatma konusunda teknoloji sektörünün büyük ölçüde “duyarsız” olduğunu hissettiğini söyledi. Yine de Zuckerberg gibi Ohanian da şirketlerin kendi başlarına çözebileceği umudunu dile getirdi gibi görünüyor. Google DeepMind’in kurucu ortağı Shane Legg da düşüncelerini paylaştı. “Şu anda yeteneklerin çok, çok hızlı ilerlediği bir dönemde yaşıyoruz,” dedi Legg. “Ama yeteneklerin güvenliğin önüne geçmesine izin veremeyiz.” Ekledi: “Bunun pratikte nasıl işleyeceğinin ayrıntılarını gerçekten çalışmamız gerekiyor.”
Büyük laboratuvarların kamu-özel iş birliği çağrılarına rağmen, düzenleme yanlısı seslerden bazıları da işletmelerin kendi kurallarını yazmasına izin vermekten nispeten memnun görünüyor. Gerçekten de bu hafta The Information’dan gelen ve OpenAI, Anthropic ve diğer büyük yapay zeka şirketlerinin bir yapay zeka standartları kuruluşu oluşturmak için birlikte çalıştığını söyleyen, bir çıkış tarafından özel “öz-düzenleyici organ” olarak tanımlanan biraz daha az görünür ama en az o kadar ilginç bir hikaye vardı.
Daha önce benzer, federal olarak yönetilen bir kuruluş oluşturulması hakkında tartışmalar yapılmıştı. Ancak sesli yapay zeka savunucularını içeren ve büyük ölçüde düzenlemesiz bir teknoloji işi için baskı yapan Trump Beyaz Sarayı — yönetim hatta eyalet hükümetlerinin kendi yapay zeka yasalarını tanıtmasını engellemeye çalıştı — bunun peşini sürmedi. Yönetimin “yapay zeka çarı” teknoloji veterini David Sacks, yapay zeka düzenlemesinin onu geliştiren şirketlere bırakılması gerektiğini söyledi.
Beyaz Saray gibi, Kongre’deki önde gelen üyeler de Amodei’yi şirketini düzenleme teklifini kabul etmek konusunda eşit derecede ilgisiz görünüyor. Anthropic CEO’sunun yazısı yayınlandıktan çok geçmeden Temsilciler Meclisi Başkanı Mike Johnson, felaket yapay zeka gelişmeleri konusundaki endişeleri şöyle ele aldı: “Hepsi 10 yıl içinde ölmeyeceksiniz,” dedi.
Özel bir kuruluş endüstriyi gönüllü taahhütler dışında düzenlemesiz tutacak ve doğal olarak onu oluşturmaktan sorumlu şirketlere belirli bir miktar yetki ve nüfuz bahşedecek. Bu, sektörün düzenleme çağrılarının aslında “düzenleyici ele geçirme” stratejisi olduğu yönündeki devam eden iddiaya yol açıyor. Bu argümana göre, sektörde zaten önde gelen bir konuma sahip güçlü şirketler, düzenleyici stratejiler kullanarak daha küçük, daha az kaynaklı şirketleri dışlayabilir veya dezavantajlı hale getirebilir — böylece rekabetlerini boğabilir. Bu gerçek düzenlemeleri içermeyebilir ancak yine de daha az güçlü firmalar üzerinde baskı oluşturan gönüllü endüstri standartlarını içerebilir.
Çin hükümetindeki birçok önde gelen ses bu pozisyonu yankıladı. Amodei bu hafta “sınırı tempolama” çağrısında bulunduktan sonra, Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun Amerikalıları küresel yapay zeka yönetişiminin gelişimini bozmak için “korku yayma” kullanmakla suçladı, Çin’in devlet tarafından işletilen gazetesindeki bir makale ise Amodei’nin söylemini “Soğuk Savaş oyun kitabı”ndan çıkmış olarak nitelendirdi.
Amodei’nin yazısında çağrıda bulunduğu şeylerden biri olan Çin ile şirketlerin iş yapma şeklini yeniden yapılandırmak, doğal olarak Amerikan şirketlerinin işleri kendi lehlerine çevirme fırsatı olabilir. Amodei bunun hedef olduğunu bile kabul ediyor. “Bu önlemleri iyi uygularsak, Çin’in ilerlemesini bir sonraki 3-5 yıl boyunca — yapay zekanın jeopolitik olarak en önemli hale geldiği pencere — yeterince yavaşlatacağımıza ve Amerika’nın önemli ölçüde öne geçeceğine inanıyorum,” diye yazdı yazısında.
Ancak Çin’in yanı sıra, büyük Amerikan yapay zeka laboratuvarlarının da maçı kendi lehlerine atmak istediğini görenler var. Kanada yapay zeka firması Cohere’ın CEO’su Aidan Gomez, yakın zamanda bu şirketleri bir “kartel” oluşturmakla suçladı, bir blog yazısında şöyle yazdı: “Yapay zekanın koruyucu raylara ihtiyacı var. Bu tartışma konusu değil ve asla olmadı. Tartışma, bunları kim yazacağı, kimin katılacağı ve kuralların kimin çıkarlarını koruyacağı üzerine.”
Gomez’in de belirttiği gibi, yapay zeka güvenliği alanı son derece politik bir alandır; güvenliğin nasıl tanımlandığı ve kimin tarafından tanımlandığı nihayetinde bir sonraki yapay zeka rekabet aşamasında kimin öne geçtiğini ve kimin geride kaldığını belirlemeye yardımcı olacaktır.
