Sam Altman, yapay zekânın faydalarının o kadar büyük olacağını düşünüyor ki yolda "dünyanın bazı kötü şeylerin olmasını kabul etmesi gerektiğini" söylüyor.
OpenAI CEO'su, hack'ler, dolandırıcılıklar ve "diğer kötü şeyler"i toplumun tolere etmesi gereken maliyetler olarak gösterdi çünkü "insanlar yapay zekâ ile muazzam derecede, kat kat daha fazla iyi şey yapacak" dedi, potansiyel faydaları detaylandırmadan. Açıklamaları, OpenAI'nin yapay zekâ düzenlemesine "daha hafif dokunuşlu" yaklaşım savunduğu bir dönemde geldi; öncü modellerin güvenliği konusundaki kaygı artarken bu endişeler kısmen şirketin giderek daha yetenekli yapay zekâ ajanlarını gerçek dünya hedeflerine saldırmaktan engelleyememesinden kaynaklanıyor.
Pazartesi günü yayınlanan Politico'nun yeni Decoded podcast'inde — The Verge'in Decoder podcast'iyle karıştırılmamalı — yaptığı açıklamada Altman, yapay zekânın daha geniş faydaları uğruna zararı kabul etme isteğini OpenAI ile eski OpenAI çalışanlarının yapay zekâ güvenliği konusundaki anlaşmazlıklar sonrası kurduğu baş rakibi Anthropic arasındaki temel fark olarak tanımladı.
Bu hesap, geçen ay benzer şekilde yapay zekânın zararlarının teknolojinin getirebileceği faydalarla tartılması gerektiğini savunan Nvidia CEO'su Jensen Huang'ın sözlerini yansıtıyor. Her iki argüman da yapay zekâ geliştirmenin yavaşlatılmasının kendi risklerini taşıdığı görüşünü savunan daha geniş bir hızlandırmacı bakış açısına uyuyor.
Altman'ın bu ayrımı, yakın zamana kadar gelişmiş yapay zekânın daha güçlü düzenlenmesi çağrısında geniş ölçüde uyumlu görünen OpenAI ve Anthropic arasındaki bir başka ayrışmayı işaret ediyor. OpenAI ile Anthropic arasında "çok fazla mesafe" olduğunu vurgulayarak Altman, daha güçlü düzenlemelere hâlâ ihtiyaç olduğunu söyledi ve OpenAI'yi Anthropic'in daha temkinli yaklaşımı ile hiç ya da çok az düzenleme isteyenler arasında "pragmatik merkezciler" olarak konumlandırdı.
"Bu teknolojiyi güvenlik adına çok fazla kısıtlarsak ve bunun sonucunda küçük bir şirket ya da insan sayısı — belki tek bir ülke — bunun üzerinde çok fazla güce sahip olursa, bu da işlerin korkunç şekilde yanlış gitmesinin bir yolu olur," dedi Altman.
Altman ayrıca insanlığın yapay zekâ sistemlerinin kontrolünü kaybetme ihtimali de dahil olmak üzere daha uç riskleri de kabul etti. Ciddi bir kontrol kaybı potansiyeline gelince "bu geleceğe fırlamadan önce biraz düşünceli olalım" dedi.
Ağır kısıtlamalar ile serbest bırakma arasındaki denge, röportajda Altman'ın tekrar tekrar döndüğü bir tema oldu. Bu tutum, sektörün en köklü oyuncularından biri olan OpenAI'ye uygun. Şirketin davranışları ve giderek daha yetenekli sistemleri, düzenleyicilerin ele alınması istenen endişelerin birçoğunu tetiklediği için ağır düzenlemenin yükünü büyük olasılıkla OpenAI taşıyacak.
Bu endişeler son aylarda ivme kazandı; giderek daha fazla içeriden kişi daha yavaş geliştirme çağrısı yapıyor ve öncü laboratuvarlardaki güvenlik kültürü konusunda uyarıyor. Politico röportajının yayınlanmasından günler önce uzun süreli OpenAI güvenlik araştırmacısı David Robinson firmadan ayrıldı ve şirketin güvenlik kültürünü "kırık" olarak tanımladı.
Endişeleri ayrıca bu yıl başında OpenAI ajanlarının yapay zekâ şirketinin bilgisi olmadan Hugging Face'e sızdığı bulgusunun da körüklemesi oldu; bunu Anthropic, Meta ve Google gibi diğer yapay zekâ şirketlerinin ajanları ya da ajan sürülerinin de aralarında bulunduğu çok sayıda ajanın gerçek dünya hedeflerine karşı hareket ettiğine dair açıklamalar izledi. Bu olaylar sadece yapay zekâ şirketlerinin kendi araçlarını ne kadar iyi kontrol edebildiği sorusunu değil, aynı zamanda bir şeyler yanlış gittiğinde bunu dünyaya ne kadar güvenilir şekilde bildirdikleri sorusunu da gündeme getirdi. Örneğin Avustralya Başbakanı, bir ajanın hükümet sağlık sitesini hedeflediğini yetkililere zamanında bildirmemekle OpenAI ve Altman'ı sert şekilde eleştirdi.
Politico röportajında kontrolden çıkmış yapay zekâ ajanlarından bahsederken Altman, şirketin "açıklayacağı daha fazla şey olduğunu" söyledi, ancak bunların Hugging Face saldırısı düzeyinde olmadığını belirtti. Daha önceki açıklamalarıyla uyumlu olarak Altman, bunun uzun zaman almasının muhtemel olduğunu ima etti.
