Özet
OpenAI, WIRED'e göre yasa koyuculara rakip yapay zeka geliştiricilerinin yasal olarak yavaşlama konusunda koordinasyon kurup kuramayacağını sordu.
Uzmanlar, finansman ve rekabet baskılarının şirketlerin tek başlarına geliştirme hızını yavaşlatmasını engellediğini söylüyor.
Kongre'de görüşülen bir yasa tasarısı, güvenlik risklerini ele almak için yapay zeka geliştirme kısıtlamalarını içeren bazı anlaşmaları koruyacak.
OpenAI, baş bilim insanının sektörün ortak güvenlik standartları oluşturması çağrısını yaptığı bir dönemde, rakip yapay zeka şirketlerinin geliştirme hızını yasal olarak yavaşlatmak için anlaşmasının mümkün olup olmadığını Kongre üyelerine sordu.
WIRED, şirketle yakın kaynaklara dayandırdığı haberinde, OpenAI'nin son haftalarda yasa koyuculara yapay zeka şirketleri arasında geliştirme hızını yavaşlatma yönünde bir anlaşmanın antitröst yasalarını ihlal edip etmeyeceğini sorduğunu yazdı.
Yasa koyuculara yapılan bu girişim, OpenAI baş bilim insanı Jakub Pachocki'nin geliştiricilerin sistemlerinin güvenli olduğunu daha iyi gösterebilene kadar gönüllü yavaşlama çağrısının ardından geldi. Ancak şirketler, kendi araştırmacılarının endişeleri olsa bile ilerlemeye devam etme baskısı altında.
"Yapay zeka alanında ticari ve jeopolitik rekabet inanılmaz derecede yoğun. Bu durum, şirketlerin riskleri tam olarak anlaşılmadan ürünleri piyasaya sürmeye teşvik edildiği endişe verici bir dinamik yaratıyor" diyen Center for Democracy and Technology'de baş teknoloji uzmanı Miranda Bogen, Decrypt'e konuştu.
"Dahili personel daha fazla araştırma ve test gerektiğini bildiğinde bile şirketleri kritik güvenlik testlerini kısma ve atlama yönünde büyük bir baskı altında. Çok hızlı hareket etmenin sonuçları hakkında kanıtlar birikmesine rağmen bu böyle" diye ekledi.
Yapay zeka geliştirme hızını yavaşlatma yönünde bir anlaşma, rekabeti kısıtlaması nedeniyle antitröst endişesi doğurabilir. Senatörler Adam Schiff ve Jim Banks, Adalet Bakanlığı'na önceden bildirim şartıyla belirli güvenlik iş birliklerini koruyan bir yasa tasarısı sundu.
Yapay zeka geliştirme hızını yavaşlatma tartışması, Amerika Birleşik Devletleri ile Çin'in teknolojide liderlik için yarıştığı bir dönemde geldi. ABD Başkanı Donald Trump, Mayıs ayında bir yapay zeka başkanlık kararnamesini, bunun Çin karşısında Amerika'nın üstünlüğünü zayıflatabileceği endişesiyle erteledi. Trump daha sonra Haziran'da kararnamesi imzaladı ve gelişmiş modellerin piyasaya sürülmeden önce gönüllü bir inceleme süreci oluşturdu.
Ulusal güvenlik endişelerinden daha doğrudan olan finansal teşvikler, anlaşmayı zorlaştırabilir.
"Mevcut koşullarda her ilerleme milyonlarca ya da milyarlarca daha fazla finansman getiriyor ve bu ilerlemenin yaratıcılarını daha büyük bir güç ve etki konumuna yerleştiriyor" diyen Machine Intelligence Research Institute'de iletişim sorumlusu Duncan Sabien, Decrypt'e konuştu.
Silahlanma yarışı dinamiğinin gerçek olduğunu belirten Sabien, OpenAI ve Anthropic'in belirsiz risklere rağmen ilerlemeye devam etme baskısı altında olduğunu söyledi. Her yeni sistem daha yetenekli haleflerin inşasına yardımcı oluyor ve ortak bir anlaşma olmadan bir şirket yavaşlarsa rakip öne geçebiliyor.
"Bu durum özellikle zeka kazanımlarının bileşik olması nedeniyle daha da doğru; her yeni sistem bir sonrakinin, daha gelişmiş sistemin eğitilmesini ve dağıtılmasını kolaylaştırıyor" dedi. "Bazı bir koordinasyon mekanizması olmadan geri adım atmak, sadece diğer tarafın öne geçmesi anlamına gelir."
Ağustos ayında OpenAI, siber güvenlik endişeleri nedeniyle daha güçlü güvencelerin olmadığı iç Astra çalışmalarını durdurdu. Ancak OpenAI ve Anthropic her ikisi de Şubat ayında güvenlik taahhütlerini gevşetti. Anthropic baş bilim sorumlusu Jared Kaplan, rakipler ilerlemeye devam ederken geliştirme hızını tek başına yavaşlatmanın daha az anlam ifade ettiğini savundu.
Yapay zeka geliştirme hızını yavaşlatma tartışması bu hafta, eski Anthropic mühendisi Jacob Coxon'un yapay zeka geliştirmenin insanlık için oluşturduğu riskler gerekçesiyle istifasını kamuoyuna duyurmasının ardından alevlendi.
Coxon, X'te yaptığı açıklamada "Yapay zekayı geliştiren insanlar samimiyetle bunun bu on yılın sonuna kadar hepimizi öldürebileceğine inanıyor" dedi ve bunun bir "pazarlama numarası" olmadığını söyledi.
"Her neyse, birçok yönetici ve kıdemli araştırmacı basında söylemlerini makul gösterecek şekilde yumuşatacak ama aynı insanların özelde korku ifade ettiğini duyuyorum. Hiçbir başka insan faaliyeti bu düzeyde tehlike oluşturmuyor" diye yazdı.
Sabien ise araştırmacıların yerlerini başkaları alırsa ayrılmalarla pek bir şey başaramayabileceğini söyledi.
"Yeterli sayıda kişi ortak bir bilgiye ulaşırsa ve hepsinin durması gerektiğini anlarsa, koordinasyon engelini aşabilir ve sadece bir sonraki biraz daha az temkinli kişi tarafından değiştirilmek yerine birlikte durabilirler" dedi.
