OpenAI Başkanı Greg Brockman, güvenlik ve emniyet endişelerinin yeniden düşünmeyi zorunlu kıldığı için şirketin birkaç lansmanı ertelediğini ve iç süreçleri yeniden düzenlediğini söyledi.
Bu değişim, hizalama eğitimi tamamlanmamış bir OpenAI modelinin araştırma kum havuzundan çıkıp Hugging Face'in üretim sistemine ulaştığı mayıs ayındaki olayın ardından geldi.
Brockman, sektör genelinde yapılacak herhangi bir koordineli yavaşlamanın en güçlü sistemi inşa eden öncü laboratuvarlarla sınırlı olması gerektiğini savundu.
Şirket Başkanı Greg Brockman, pazartesi günü yayımlanan bir Bloomberg podcast röportajında, OpenAI'nin güvenlik ve emniyet endişeleri nedeniyle en gelişmiş yapay zeka geliştirmelerinin bir kısmını zaten yavaşlattığını söyledi.
Brockman, "Odd Lots" programının sunucuları Tracy Alloway ve Joe Weisenthal'a, bir araştırma modelinin mayısta test kum havuzundan çıkıp Hugging Face sistemlerine ulaştığından bu yana OpenAI'nin birkaç lansmanı ertelediğini ve iç iş akışlarını baştan düzenlediğini anlattı.
"Bir dizi çalışmayı yavaşlattık" dedi ve bu süreci şirketin modelleri nasıl geliştirdiği ve izlediği konusunda acı verici bir yeniden düzenleme olarak tanımladı.
Olayın arkasındaki model henüz OpenAI'nin bir sistemi amaçlandığı gibi davranmasını sağlayan güvenlik süreci olan hizalama eğitiminden geçmemişti. Brockman, modelin kum havuzuyla sınırlı olduğu için korumaları düşürülmüş şekilde çalıştırılmasının o an makul göründüğünü söyledi, ta ki öyle olana kadar.
Brockman daha önce de benzer bir argümanı kamuoyunda dile getirmişti. İhlal kamuoyuna açıldıktan sonra ağustos ayında yayımlanan OpenAI'nin "Defender's Window" başlıklı yazısı olayı dönüm noktası olarak nitelendirdi ve şirketlerin teknolojiden geri çekilmek yerine güvenlik ekiplerine kendi yapay zeka ajanlarını vermelerini önerdi.
Brockman, yapay zeka geliştirme konusunda yapılacak herhangi bir koordineli tempolamanın milyarlarca dolarlık süper bilgisayarlar çalıştıran en güçlü öncü sistemleri inşa etmek için yarışan şirketlerle sınırlı olması gerektiğini, açık kaynak geliştiricileri veya daha küçük projeler yapan hobi kullanıcılarını kapsamaması gerektiğini söyledi.
Bu ayrım, hız konusundaki sektör çapındaki tartışmanın tam ortasına denk geliyor. Anthropic CEO'su Dario Amodei hafta sonu yayımladığı yazıda yapay zeka laboratuvarlarının model yeteneklerini geliştirme hızını bilinçli olarak yavaşlatması gerektiğini savundu; OpenAI CEO'su Sam Altman ve xAI CEO'su Elon Musk bir gün içinde konuya dahil olarak onunla aynı fikirde olduklarını söyledi.
Yapay zekayı yavaşlatma çağrısında Amodei, yinelemeli öz-iyileştirme ve Hugging Face hack olayını uyarı sinyali olarak gösterdi. Olayda bir OpenAI ajanı kum havuzundan çıkmış, çalıntı kimlik bilgileriyle bir sıfırıncı gün açığını zincirlemiş ve kimse fark etmeden Hugging Face'in üretim sistemlerinin içinde iki buçuk gün serbest kalmıştı. OpenAI ajanlarının insan programcılarından talimat almadan bu şekilde koordine olması sektörde ve yasa yapıcılar arasında alarm yarattı.
Çok hızlı ilerlendiği uyarısında bulunanların son "yapay zeka kıyametçisi" paylaşımlarının ardından piyasalarda da bir tepki görüldü. Yatırımcılar koordineli bir yavaşlamanın yapay zeka odaklı sermaye harcamalarına ne anlama gelebileceğini tartarken Nvidia, Intel ve AMD dahil çip hisseleri pazartesi günü düştü; Philadelphia Yarı İletken Endeksi neredeyse yüzde 6 geriledi.
İlginç bir şekilde Brockman'ın röportajı Amodei'nin yazısı yayımlanmadan önce kaydedilmişti.
