OpenAI CEO'su Sam Altman, şirket çapında yapılan bir toplantıda firmanın önde gelen yapay zekâ modellerinin geliştirilmesini yavaşlatmayı değerlendirdiğini çalışanlara söyledi. Bloomberg, 11 Eylül Cuma günü yayımladığı haberde bu bilginin isimsiz kaynaklara dayandığını aktardı.
Habere göre Altman, diğer yapay zekâ laboratuvarlarının da OpenAI ile birlikte yavaşlamaya katılmasını umduğunu, ancak bazılarının bunu yapmayabileceğini belirtti.
OpenAI, PYMNTS'in yorum talebine derhal yanıt vermedi.
OpenAI, 1 Eylül'de Astra modelinin geliştirilmesini ve lansmanını, "siber kötüye kullanım ve yetkisiz model eylemlerine" karşı güvenlik önlemlerini güçlendirmek ve test etmek için ertelediğini açıklamıştı.
Şirket, Astra'nın yeteneklerini test ettikten sonra modelin "Kritik" siber güvenlik eşiğini karşılayan ilk model olduğuna karar verdiğini bildirdi. Açıklamaya göre bu, "doğru araçlar ve erişimle, bir kişinin her adımı yönlendirmesine gerek kalmadan daha önce bilinmeyen güvenlik açıklarını bulabildiği ve bunları birçok iyi korunmuş sistemde istismar edecek yollar geliştirebildiği" anlamına geliyor.
OpenAI, 7 Ağustos'ta Astra ile ilgili iç faaliyetleri güvenlik endişeleri nedeniyle duraklattığını söylemişti.
Anthropic, Haziran ayında ön cephe yapay zekâ geliştiricilerinin çalışmalarını yavaşlatması ya da duraklatması ve toplumsal yapıların ile uyum araştırmalarının teknolojinin ilerlemesine yetişmesi için zaman tanınması gerektiğini öne sürmüştü.
Anthropic Enstitüsü Başkanı Marina Favaro ve Anthropic Kurucu Ortağı Jack Clark, 4 Haziran tarihli bir blog yazısında Anthropic Enstitüsü'nün diğer yapay zekâ şirketleri, politika yapıcılar, araştırmacılar ve sivil toplumla teknoloji hakkındaki endişeleri ele almak ve koordinasyon yöntemleri oluşturmak üzere görüşmeler düzenleyeceğini yazdı.
Favaro ve Clark'a göre duraklatma önerisi, yapay zekâ geliştirmenin giderek daha fazla yapay zekâ sistemlerine devredilmesi ve bir yapay zekâ sisteminin tamamen özerk şekilde başka bir yapay zekâ sistemi tasarlayıp geliştirebilme potansiyeli nedeniyle ortaya çıktı.
Temmuz ayında ön cephe yapay zekâ şirketlerinden 1.132 çalışanın imzaladığı bir bildiri, ABD hükümetine otomatik yapay zekâ geliştirmenin ön cephesini "bilinçli olarak tempolu" hale getirmek için uluslararası bir çabaya destek vermesi çağrısında bulundu.
Bildiride, dünyanın önde gelen yapay zekâ şirketlerinin yapay zekâ araştırmasını otomatikleştirme yeteneğine yaklaşmasıyla, ortaya çıkan sistemlerin kontrolünü kaybedebilecekleri riski vurgulandı.
Cuma günü itibarıyla bildirinin yer aldığı sayfada imza sayısının 1.386'ya yükseldiği belirtildi.
