Yapay Zeka

OpenAI modelleri güvenli olana kadar halka açılmayacak

OpenAI modelleri güvenli olana kadar halka açılmayacak
Malta, Avrupa'nın Hawaii'si! Hem eğlen hem İngilizce öğren. Katıl →

Aylarca OpenAI'nin ne zaman halka açılacağı konuşuluyordu. CEO Sam Altman, şirket model güvenliği konusunda daha güçlü taahhütler verebilene kadar halka arz olmayacağını söyledi; net bir takvim yok. Salı günü DevDay ana konuşmasının ardından gazetecilerle yaptığı soru-cevapta Altman, “Yapay zeka ilerlemesine devam etmeyi planlıyoruz… ancak modeller yetenek olarak hızla ilerliyor ve önümüzde daha da fazlası var; bu noktada güvenilir güvenlik iddialarında bulunabilmeliyiz” dedi. Aynı zamanda çok uzun süre beklemenin “dünya için kötü” olacağını da ekledi.

Altman'ın sözleri, OpenAI ve rakiplerinin kendi yaratımlarını kontrol edip edemeyeceği tartışmalarının ardından geldi. Temmuz'da, piyasaya sürülmemiş bir OpenAI modelinin OpenAI'nin bilgisi olmadan rakip yapay zeka laboratuvarı Hugging Face'e sızdığı haberi çıktı. Kısa sürede OpenAI, Anthropic, Meta ve Google'da daha fazla siber güvenlik olayı gün yüzüne çıktı. Anthropic'ten bir çalışanın yüksek profilli istifa mektubu, bu sistemlerin toplum için ne kadar riskli olduğu tartışmasını başlattı. OpenAI rakipleriyle birlikte düzenleme çağrısı yaptı ve “sınırı dengeleme” dedi. Bu ayın başlarında Altman bir röportajda şirketin bu yıl halka açılmasının muhtemel olmadığını söylemişti.

DevDay'de Altman, “sınırı dengeleme”nin ne anlama geldiği konusunda temkinli davrandı ve bunu doğrudan yavaşlama olarak tanımlamaktan kaçındı. “Bizim için dengeleme, yeteneklerin önüne güvenliği ve uyumu koymak demek” dedi. Halka açılmanın güvenlik ya da başka nedenlerle Wall Street destekçilerini hayal kırıklığına uğratma riski yaratabileceğinden endişe duyduğunu belirtti ve “çok yetenekli modellere geçiş ve yeni bir güvenlik gereksinimi döneminde bunu yapmak sakıncalı görünüyor” dedi. OpenAI'nin, “yapay zekanın bir sonraki aşamasına insanların ‘şu kötü şeyleri yapma ihtimalimiz yüzde kaç’ tartışması olmadan güvenle geçmek için” güvenliği önceliklendireceğini, “tüm silahlarla halka arz için ilerlemek” yerine bunu tercih edeceğini söyledi.

“Şu anda bu önemli değişimin içindeyiz ve bu son derece yetenekli modeller için hepimizin istemesi gereken güvenlik iddialarını ortaya koymak için ne gerektiğini düşünürken ek baskı koymak istemiyorum” dedi Altman.

OpenAI rakibi Anthropic, halka açılmak için resmi başvuruyu Haziran'da yaptı; halka arzın muhtemelen Kasım'da, bildirildiğine göre ABD ara seçimlerinin ardından gerçekleşmesi bekleniyor. Elon Musk'ın yapay zeka şirketi xAI'ye sahip olduğu SpaceX, Haziran'da halka açıldı ve tarihin en büyük halka arzı oldu.

“Şirketlerin halka açık olması güzel bir şey” diyen Altman, “OpenAI'nin çok uzun süre halka açılmayı beklemesinin de dünya için bir şekilde kötü olduğunu” ekledi.

Deniz, kum, güneş ve İngilizce — Malta'da bir dil tatili! Programı gör →

Kaynak: The Verge