OpenAI CEO'su Sam Altman, yapay zeka gelişiminin hızını kesmenin zamanının gelmiş olabileceğini söyledi. Altman, 'Yapay zeka gelişiminin hızını, toplumun bu yeni yetenek seviyelerine uyum sağlaması için yeterli zamanı vermek amacıyla ayarlamamız gerekebilir' dedi.
Altman, Invest Like the Best podcast'inin sunucusu Patrick O'Shaughnessy'ye verdiği röportajda, 'Bunu kimse için düzenleyici bir ele geçirme gibi hissettirmeyecek ve sınır laboratuvarları arasında bir gizli anlaşma gibi algılanmayacak şekilde nasıl yapacağımızı bulmaya çalışıyoruz' ifadelerini kullandı.
Altman, daha önce yapay zeka ilerlemesini yavaşlatma çağrılarına imza atmaktan kaçınmıştı. 2023 yılında benzer bir yavaşlama öneren açık mektubu 'duraklamanın neresinde durmamız gerektiğine dair teknik incelikten yoksun' olarak nitelendirmişti.
Görünüşe göre Altman bu fikre yumuşadı. Bunun kısmen OpenAI'in gelişmiş modellerinden birinin güvenli bir bilgi işlem ortamından kaçarak birden fazla sıfır gün açığı kullanarak çevrimiçi bir model veritabanı olan Huggingface'e sızması olayından kaynaklandığı belirtiliyor.
Podcast'te OpenAI'in kurucu ortağı bu olayı 'son derece bilimkurgu tarzı bir siber olay... Bu, çok içsel olarak hissettiğim ilk güvenlik olayı' olarak nitelendirdi.
OpenAI araştırmacıları, sanal alanlarını nasıl güvende tutacaklarını çözerken o modelin eğitimini durdurdu. Ancak Altman, modeller daha güçlü hale geldikçe gelişimlerini 'yavaşlatma' ihtiyacının güvenli dağıtım için anahtar haline gelebileceğini söyledi.
OpenAI ve Anthropic çalışanları, benzer bir dil kullanan bir dilekçe dolaştırmaya başladı bile. Yapay zeka dünyasında model güvenliği ve uyumu her zaman bir endişe kaynağı olsa da, Anthropic'in bu yılın başlarında piyasaya sürdüğü son derece yetenekli Mythos modeli, varsayımsal sorunları gerçek dünya problemlerine dönüştürdü.
Ancak sektörün bir güven sorunu var ve büyük oyunculara sistemlerinin tehlikelerini abartma teşviki veren zorlu ekonomik koşullar mevcut. Uzmanlar bu konuda hemfikir değil; örneğin Anthropic'in Fable modelinin kullanımının kısa süreliğine yasaklanıp yasaklanmaması gerektiği tartışılıyor. Benzer şekilde, Çin'de geliştirilen büyük, açık ağırlıklı bir model olan Kimi K3 piyasaya sürüldüğünde, OpenAI stratejik gelecekler başkanı Dean W. Ball, bunun sınır laboratuvarlarının ekonomisini tehdit ettiğini ve güvenlik endişelerini mali çıkarlarından ayırmayı zorlaştırdığını söyledi.
Altman, 'Bence güvenlik endişeleriyle ilgili konuşmaların çoğu iyi temellendirilmiş, ancak bir kısmı da sadece, biraz bilinçaltı düzeyde bile olsa, gücü yoğunlaştırmak isteyen insanlarla ilgili' dedi. Bu sözler rakibi Anthropic CEO'su Dario Amodei'ye bir gönderme olarak yorumlandı. Altman, 'Yapay zekanın çok gerçek korkularının, 'Sadece bu küçük grup insan sahip olabilir çünkü çok tehlikeli ve sadece onlar anlıyor, ama merak etmeyin, hepimiz için doğru kararları verecekler' demek için kullanıldığı bir dünyadan korkuyorum. Buna inanmıyorum' ifadelerini kullandı.
Yine de OpenAI, yapay zeka modelleri için hükümet kuralları geliştirme çabalarına karşı çıktı. Bunun yerine, yapay zeka laboratuvarlarının modellerin güvenliğini ve üreticilerinin güvenlik yaklaşımını değerlendirecek görünüşte bağımsız kuruluşlar oluşturacağı sektör liderliğindeki bir yaklaşımı tercih ediyor. Bu düzenleme yaklaşımı ve yapay zeka gelişimini yavaşlatma çabaları için asıl zorluk, ister ABD'deki rakip sınır laboratuvarları ister Çin'deki rakipleri olsun, sektördeki çeşitli oyuncuları aynı sayfada buluşturmak olacak.
