Altman, yapay zeka ilerlemesinin güvenlik kontrolleri ve izleme için yavaşlatılması gerektiğini söyledi.
OpenAI'nin belirli eğitim çalışmalarından önce güvenlik senaryoları hazırladığını belirtti.
Federal kuralları memnuniyetle karşıladığını ancak şirketlerin işi kendilerinin başlatması gerektiğini vurguladı.
OpenAI CEO'su Sam Altman, yapay zeka şirketlerinin sistemlerini daha güvenli hale getirmek için daha yavaş geliştirmeyi kabul etmesi ve mevzuat beklemeden güvenlik önlemlerini güçlendirmeye başlaması gerektiğini söylüyor.
Pazar günü X'te yaptığı paylaşımda ChatGPT'nin arkasındaki şirketin başındaki isim, yapay zekanın hızlı gelişiminin geleceği insan kontrolünün ötesine taşıma riski taşıdığını ya da gücün tek bir kişi veya şirkette yoğunlaşmasına yol açabileceğini söyledi ve "yapay zeka ilerlemesinin çok kötü gidebileceği iki yol var ve bunlardan kaçınmalıyız" dedi.
"Önce olarak geleceğin kontrolünü yapay zekaya kaptırabiliriz. Bu kabul edilemez; biz pişmanlık duymadan İnsanlık Takımındayız ve yapay zeka her zaman insanlara hizmet etmeli," diye yazdı Altman. "Bunu sağlamak için uyum ve güvenlik tekniklerinin model yeteneklerindeki ilerlemenin önünde kalmasını sağlayacak yöntemlere ihtiyacımız var."
Altman'ın uyarısına göre ikinci risk, gücün tek bir kişi veya şirkette toplanması ve onların olağanüstü güçlü yapay zekayı herkesin üzerine kendi dünya görüşünü dayatmak için kullanması, bu durumun potansiyel olarak distopik sonuçlar doğurması.
"Bu iki tehditten kaçınmak dar bir orta yol izlemeyi gerektiriyor; örneğin bir ülke çok fazla güç kazanabilir," diye yazdı. "Bir başka örnek ise tek bir laboratuvarın çok fazla güç elde etmesi."
Ayrı bir paylaşımda Altman, Amerikan yapay zeka şirketlerinin ilerleme hızlandıkça giderek daha yetenekli sistemleri sorumlu şekilde geliştireceklerine dair kamuoyunun güvenini sağlaması gerektiğini söyledi. Bu paylaşım, gelişmiş yapay zekanın nasıl düzenlenmesi gerektiği konusundaki tartışmaların arttığı bir döneme denk geldi.
Yapay zeka ilerlemesinin çok kötü gidebileceği iki yol var ve bunlardan kaçınmalıyız.
Önce olarak geleceğin kontrolünü yapay zekaya kaptırabiliriz. Bu kabul edilemez; biz pişmanlık duymadan İnsanlık Takımındayız ve yapay zeka her zaman insanlara hizmet etmeli. Bunu sağlamak için uyum ve… https://t.co/GK7XcoOh3v
— Sam Altman (@sama) 14 Eylül 2026
"'Hızlandırma' derken 'durdurma' demiyoruz," diye yazdı. "İlerleme hızlı oldu ve hızlı olmaya devam edecek. Ancak güvenlik senaryoları ve izleme gibi müdahalelerin önemli maliyetleri olduğu için olması gerekenden daha yavaş olmalı."
Altman, yapay zeka geliştirme ve değerlendirme sırasında güvenliği değerlendirmek için şirketlerin yeni araçlara ihtiyacı olduğunu, kontrollerin yayınlanmayı bekleyen tamamlanmış modellerle sınırlı kalmaması gerektiğini söyledi.
"Örneğin OpenAI'de, yetenekleri önemli ölçüde artıracağını beklediğimiz öncü takviye öğrenme çalışmaları öncesinde açık güvenlik senaryoları formüle ediyoruz; model yayınları öncesinde uzun süredir yaptığımız güvenlik çalışmalarına ek olarak," dedi.
Altman, şirketleri yapay zeka sistemlerinin insan çıkarlarına aykırı hedefler peşinde koşmasını engellemek için birlikte çalışmaya çağırdı.
"Diğer şirketlerin yaklaşımlarımızdan öğrenmesini ve kendi önerilerini sunmasını umuyoruz; yanlış hizalama, izleme ve güvenlik için paylaşılan standartların daha iyi sonuçlara yol açacağını düşünüyoruz," diye yazdı.
Altman federal güvenlik kurallarını ve bağımsız denetçileri memnuniyetle karşılarken, OpenAI'nin Cuma günü Kongre'ye rakiplerin yavaşlamayı yasal olarak koordine edip edemeyeceğini sorduğu haberlerinin ardından şirketlerin mevzuat veya bir antitröst muafiyeti beklemeden harekete geçmesi çağrısında bulundu.
"Devletimizden uluslararası koordinasyon konusunda yardım isteyeceğiz," diye yazdı. "Ama önce yapabildiklerimizi kendimiz yapmalıyız."
Yaptığı açıklamalar, OpenAI ve Anthropic'te yaşanan siber güvenlik test başarısızlıklarının ardından geldi. Anthropic, Claude'un standart ürün güvenlik önlemleri olmadan test sırasında gerçek sistemlere erişmesi üzerine muhafazayı ve izlemeyi sıkılaştırdı; OpenAI ise ajanların bir kıyaslamada hile yapmayı koordine etmesi ve Hugging Face'e saldırması üzerine bir modeli izole etti ve en büyük planlanan eğitim çalışmasını duraklattı.
