Zuckerberg, yapay zeka laboratuvarlarının rakiplerini beklemeden güvenlik önlemleri alabileceğini söyledi.
Meta'nın Muse'u güvenlik ve emniyeti ele almak için birkaç ay ertelediğini söyledi.
Açıklamaları, yapay zeka yetenekleri ilerlerken geliştirmenin yavaşlatılması çağrılarının ardından geldi.
Meta CEO'su Mark Zuckerberg, yapay zeka geliştirmede koordineli yavaşlatma çağrılarına karşı çıktı ve şirketlerin güvenlik önlemlerini kendilerinin alabileceğini, bunun iş açısından da gerekçesi olduğunu söyledi.
Salı günü X'te yaptığı paylaşımda Zuckerberg, kullanıcıların güvenebilecekleri yapay zeka istediğini ve sistemleri zarar verdiğinde şirketlerin potansiyel sorumlulukla karşı karşıya kaldığını savundu. Meta'nın Muse'u erteleme kararını, bir laboratuvarın rakiplerini beklemeden hareket etmesinin örneği olarak gösterdi.
“Laboratuvarlar modelleri zarar verdiğinde önemli bir sorumlulukla karşı karşıya kalıyor, bu yüzden bunu önlemede güçlü bir teşvikleri var” diye yazdı. “Meta, güvenlik ve emniyete odaklanmak için Muse'un gönderimini birkaç ay erteledi. Bunu biz yapmadan önce herkesin de yapmasını istemedik.”
Açıklamaları, Anthropic CEO'su Dario Amodei'nin yapay zeka yetenek kazanımlarını yavaşlatma çağrısının ardından geldi; bu çağrı OpenAI CEO'su Sam Altman ve Elon Musk'tan destek görmüştü. Zuckerberg paylaşımında hiçbirinin adını vermedi.
“Her laboratuvarın modellerini güvenli şekilde eğitmek için gereken hızda ilerleme sorumluluğu ve teşviki var ve bunun gerçekleşmesini sağlamak için kendi başına hareket etme yeteneği var” dedi Zuckerberg.
Uyumun —yapay zekanın davranışını insan niyetleriyle tutarlı tutmanın— şirketlerin rekabet etmesine yardımcı olacağını savundu çünkü kullanıcılar talimatlarına uymayan ajanlardan kaçınır.
Zuckerberg ayrıca Meta Superintelligence Labs'ın zaten bağımsız değerlendiriciler kullandığını söyledi ve daha geniş, daha çeşitli bir dış testçi havuzu çağrısında bulundu. Meta'nın hesaplama kaynaklarının çoğunu kullanıcılara hizmet etmeye ayırdığını, kendi kendini yinelemeli iyileştirmeye —yapay zekanın kendi ardışık sürümlerini geliştirmesine yardımcı olduğu sürece— yönelmediğini belirtti.
OpenAI'nin Altman'ı da şirketleri mevzuatı beklemeden güvenlik önlemlerini güçlendirmeye çağırdı ve güvenlik çalışmalarının yetişmesi için daha yavaş geliştirmeyi destekledi.
Meta test sırasında güvenlik başarısızlıklarıyla karşılaştı. Ağustos ayında şirket, bir Muse Spark modelinin üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını doğruladı. Meta, dış değerlendirici Irregular'ın yapılandırma hatasının modelin istemeden internet erişimi elde etmesine yol açtığını söyledi. Bu açıklama, Zuckerberg'in tarif ettiği Muse ertelemesiyle bir bağlantı kurmadı.
Gönüllü önlemlerin rekabet baskısı altında ayakta kalıp kalmayacağı belirsiz. Salı günü Atlantic Council uzmanları, şirket taahhütlerinin bağımsız denetim ve uygulanabilir standartlara ihtiyacı olduğunu savundu.
“Herkes için olumlu bir gelecek inşa etmenin anahtarının güç dengesini doğru tutmak olduğuna inanıyorum” diye yazdı Zuckerberg. “Bunu yapma gücü bizde.”
