Yapay zekâ araştırmacılarının yapay zekânın tehlikelerine dair giderek daha karamsar uyarıları görmeye devam ediyoruz ve OpenAI CEO'su Sam Altman'ın bile yapay zekâ geliştirmesini "tempolama" zamanı olabileceğini söylemesi dikkat çekiyor. Peki bu gerçekte nasıl görünür?
Yeni bir blog yazısında Anthropic CEO'su Dario Amodei, "öncüyü tempolama" çağrısını yineledi ve bunu yapmanın üç genel stratejisini özetledi. Ayrıca Anthropic'in bunlardan birine "tek taraflı olarak" taahhüt ettiğini söyledi.
Yapay zekâ güvenliği ve uyumuna ilişkin tartışma bu hafta Anthropic'ten istifa ettiğini yazan araştırmacı Jacob Coxon'un ardından yoğunlaştı. Coxon, önde gelen yapay zekâ şirketlerinin "hayatlarımızla kumar oynadığını" ve teknolojiyi geliştirenlerin "on yıl sonuna kadar hepimizi öldürebileceğine samimiyetle inandığını" belirtmişti; bu iddia Anthropic'teki diğer kişilerce de tekrarlandı.
Amodei'nin yazısı Coxon'un istifasına veya endişelerine açıkça değinmese de CEO, yapay zekâ geliştirmeye daha temkinli yaklaşmanın zamanı geldiğine ikna eden iki şey olduğunu yazdı: OpenAI-HuggingFace hack'i ve yapay zekânın özellikle "bir sonraki nesil yapay zekâyı inşa etme yeteneği" ile son aylarda "dramatik şekilde daha hızlı ilerlemesi".
"Yapay zekâ modellerinin yeteneklerini iyileştirme hızını yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız."
Önerdiği ilk adım, METR gibi üçüncü taraf kuruluşlardan "gömülü değerlendiriciler" içermesi olacak. Bu değerlendiriciler yapay zekâ şirketlerinin tempolama ve güvenlik taahhütlerine gerçekten uyup uymadığını doğrulayabilecek ve güvenlik olaylarının bildirilmesini de sağlayabilecek. (OpenAI yakın zamanda yapay zekâ ajanlarının bir Alman wiki formunu ele geçirdiği bir olayı bildirmemesi nedeniyle eleştirilmişti.)
Amodei bu değerlendiricileri banka çalışanlarıyla birlikte görev yapan düzenleyicilere benzetti ve onları içeri davet etmenin "Anthropic'in tek taraflı olarak taahhüt ettiği (ve hükümetleri diğer öncü şirketleri de aynısını yapmaya zorlamaya çağırdığı) bir şey" olduğunu söyledi. Bu, değerlendiricilere şirket rozeti, masa ve dizüstü bilgisayar vermek ve iç risk değerlendirme ekiplerinin sahip olduğu erişime "çoğunlukla" eşdeğer erişim sağlamak anlamına geliyor; yasal veya sözleşmesel gereklilikler istisna.
Sonra Amodei, demokratik ülkelerdeki önde gelen yapay zekâ şirketlerinin "ortak güvenlik standartlarının yanı sıra kontrolsüz yapay zekâ ilerlemesinin hızına ilişkin sınırlamalar" konusunda koordine olmasını istedi.
Bu tür bir koordinasyon, Altman ile Amodei arasındaki görünür düşmanlık ve şirketlerin koordineli bir duraklamanın antitröst incelemesine yol açabileceği endişesi nedeniyle pek olası görünmüyor. Amodei yazısında bu endişeye değindi: "Antitröst nedenleriyle ABD hükümetinin bu tartışmaları arabuluculuk etmesi veya en azından mümkün kılması faydalı; katılmaları gerekmiyor, ancak belirli türdeki güvenlik sohbetleri için dar bir muafiyet yayınlamaları gerekiyor."
Amodei, gelişimi yavaşlatmaya karşı bir argüman olarak sıkça dile getirilen Çin yapay zekâ hakimiyeti hayaletini de kabul etti. Ancak ABD hükümeti ve teknoloji şirketleri güçlü çiplerin veya yarı iletken üretim ekipmanının Çinli şirketlere satılmasını reddetme ve model damıtmayı engelleme gibi adımlar atarsa Çin'in ilerlemesini yeterince yavaşlatıp önümüzdeki 3-5 yıl içinde Amerika'nın üstünlüğünü önemli ölçüde genişletebileceklerini söyledi.
Son olarak Amodei "küresel koordinasyon" çağrısında bulundu; burada Amerika Birleşik Devletleri ve müttefikleri "mümkün olduğu ölçüde" otoriter hükümetlerle, özellikle de Çin ile iş birliği yapmaya çalışacak. Amodei bunun "Çin ile iş birliği" anlamına geleceğini kabul etti ve "ne elde edilebileceğinin keskin sınırları" olduğunu söyledi, ancak yine de yapay zekânın biyolojik silah üretimi için kullanılmasının veya kullanıcıların bunu yapmasına izin verilmesinin yasaklanması gibi dar ve açıkça tehlikeli kullanımların yasaklanması gibi anlaşma fırsatları olabileceğini öne sürdü.
Amodei'nin yapay zekânın potansiyel tehlikelerini kabul etmeye yönelik geçmiş istekliliği ve şirketin belirli düzenleme biçimlerine görece açıklığı ile bazı yapay zekâ destekçileri onu, yorumlarının mevcut yapay zekâ karşıtı tepkinin beslenmesine yol açan bir kıyametçi olarak eleştirdi. Buna karşılık Amodei, "dengeli" bir bakış açısı sunmaya çalıştığını söyledi ve tepkinin "temelde bir güven krizi" olduğunu savundu; insanlar teknoloji şirketlerinden, teknoloji sektöründen ve hükümetten şüphe duyar hale geldi.
Sektör eleştirmenleri de bu kıyametvari yapay zekâ uyarılarına şüpheyle yaklaştı ve bunların teknolojinin zaten neden olduğu zarardan dikkat dağıtmak için bir araç olabileceğini öne sürdü.
Örneğin gazeteci Brian Merchant, yapay zekânın kendini özyinelemeli olarak iyileştirmeden gezegendeki her insanı öldürmeye nasıl geçebileceğine dair "güvenilir, adım adım bir dokümantasyon" görmediğini yazdı; ayrıca Amodei'ye benzer önerilerin "muhtemelen sadece Anthropic ve OpenAI'ye hizmet edeceğini, bunun düzenleyici ele geçirme eylemde nasıl göründüğü" olduğunu öne sürdü.
Yeni yazısında Amodei, yapay zekânın insan yaşamının kalitesini büyük ölçüde iyileştirebileceğine "hala inandığını" yazdı.
"Bu faydaları elde etme arzum azalmadı" dedi. "Ancak faydalar ancak teknolojiyi doğru şekilde inşa edersek elde edilecek ve — kazandığımız zamanı iyi kullanmaya devam ettiği sürece — bunu doğru yapmak için alışılmadık derecede bilinçli özen göstermek değer."
