Son birkaç ay yapay zeka abartısı açısından oldukça yoğun geçti. Nisan ayının sonunda Anthropic, Claude Mythos modelinin yazılım açıklarını çoğu güvenlik uzmanından daha iyi bulduğunu iddia etti. Ardından OpenAI–Hugging Face hack olayı yaşandı ve bunun üzerine Anthropic gururla ve Meta isteksizce kendi modellerini ilgilendiren benzer olayları açıkladı.
Bunu Anthropic’in bir modelinin matematiksel bir atılım yaptığı yönündeki iddiası izledi; kısa süre sonra OpenAI de kendi matematiksel atılımını duyurdu. En son olarak Anthropic mühendisi Jacob Coxon, şirketteki görevinden ayrıldığını duyurarak viral oldu ve şirketin OpenAI ile birlikte kendini geliştiren süper zekaya doğru koşarak hayatlarımızla kumar oynadığını öne sürdü.
Bu olayların her biri basın tarafından çoğunlukla nefes nefese aktarılıyor ve şirketlerin antropomorfize edici çerçeveleri sıkça tekrarlanıyor; bu çerçeveler yazılımın yalnızca güçlü değil, aynı zamanda başlangıç aşamasındaki yapay genel zekâ olduğu izlenimini vermeye tasarlanmış. Peki gerçekte ne oluyor? Medeniyeti değiştiren büyük teknolojik atılımlara mı tanık oluyoruz, yoksa bu bir pazarlama mı?
Bu olayların tümünde şirketlerin yarattığı büyük gösteriş, yasadışı hack vakalarında mea culpa olarak sunulan, yoğun basın kapsaması ile birlikte geliyor. İlgili alanlardaki uzmanların neler olduğunu incelemesi için zaman bulunca çok farklı bir hikâye ortaya çıkıyor, ancak bu hikâye daha az medya ilgisi görüyor.
Hack olaylarıyla ilgili olarak siber güvenlik uzmanları, hikâyenin modellerin kontrolden çıkması ya da yapay zeka ajanlarının uygarlıklar yaratması yerine OpenAI’nin ihmali ve temel, yerleşmiş güvenlik uygulamalarını benimsememesiyle ilgili olduğunu söylüyor.
Matematiksel sonuçlar konusunda ise matematikçiler, OpenAI’nin en yeni sohbet robotu Astra’nın ana sonuçta en az bir on yıldır ilerleme görülmeyen ve açık kalan sorunları çözdüğünü söyleyen basın bültenine ilk başta şaşkınlıkla yaklaşmıştı; ancak daha sonra sonuçların ilk izlenimde göründüğü kadar yeni olmadığını fark ettiler. O zamandan beri matematikçiler şirketi araştırma suistimali ve intihal ile suçladı ve Astra’nın derin bir entelektüel sıçrama yapmadığını yinelediler. Sadece birkaç hafta sonra OpenAI kendi matematiksel atılımını iddia etti. Bundan iki gün önce New York Üniversitesi Courant Enstitüsü’nden matematik profesörü Tristan Buckmaster, OpenAI’nin başkalarının çalışmalarını çaldığına ve bunları uygunsuz şekilde atfettiğine dair bomba niteliğinde bir açıklama yayınladı.
Başlangıç aşamasındaki tehlikeli süper zekâ iddiaları iyi bir bilimsel ya da mühendislik uygulamasına dayanmıyor. Aksine, bunlar transhümanizm, eugenik ve hayali gelecekteki dijital insanlara dair temenni düşüncesine dayanan anlatılar.
Büyük dil modelleri ve ilgili teknolojinin uygulanacağı alanlar olarak bilgisayar programlaması ve matematiğe neden bu kadar çok ilgi gösterildiğini düşünmek değerli. Bunlar yalnızca insan entelektüel başarısının zirvesi olarak yüceltilmiyor, aynı zamanda bir kez önerildikten sonra cevapların doğrulanabildiği problemleri içeriyor. İlk özellik, yapay zeka abartıcılarının her şeyi makinelerin inşa ettiğini söyleme fikrini satmasına yardımcı oluyor. İkincisi ise matematik ve kodlama problemlerini sistemleri ayarlamak için daha kolay hale getiriyor; çünkü sistem çıktısı olası kelime dizileri ya da bilgisayar kodu parçaları her birini incelemek ve etiketlemek için veri işçilerine ödeme yapmak zorunda kalmadan değerlendirilebiliyor.
Matematikçiler özellikle şirketlerin alanlarını bu şekilde kullanmasına karşı uyarıda bulundu. Yüzlercesinin imzaladığı bir açıklamada teknoloji endüstrisinin ürünlerinin yeteneklerini abartma konusunda şu anda güçlü bir ticari teşviki var deniyor ve politika yapıcılara basın bültenlerine ya da matematiksel sonuçların popüler aktarımına güvenmek yerine politika kararları oluştururken matematikçiler de dahil uzmanlara danışmaları isteniyor.
Bu çağrıyı yineliyoruz ve teknoloji şirketlerinin yaydığı hız ve aciliyet yanılsamasının da politika yapıcıları ve kamuoyunu yanlış yönlendirmek için bir taktik olduğunu belirtiyoruz. Ne yazık ki bazen işe yarıyor; örneğin Senatör Bernie Sanders’ın iyi niyetli ama sonuçta yanlış yönlendirilmiş yapay süper zekânın geliştirilmesini engellemeye yönelik önerdiği yasa tasarısı gibi.
Bunları süper zekâ ya da isyancı modeller olarak tanımlamak, ajansı ürünlere değil de onları inşa eden şirketlere atfediyor. Bu çerçeve şirketlerin ürünlerini süper insan olarak pazarlarken aynı zamanda şirketlerin eylemlerinden sorumlu tutulmasını engellemesine yardımcı oluyor.
OpenAI’nin başka bir şirketi hackleyen kötü amaçlı yazılım oluşturduğu için yargılanması yerine, basın bültenleri, haber kuruluşları, medya kişilikleri ve yasa koyucular isyancı modellerden kendi başlarına hareket ediyormuş gibi bahsediyor. Araştırmacıların şirketlerinin akademisyenlerin çalışmalarını intihal etme alışkanlığı ya da müşteri verilerini izinsiz model eğitiminde kullanması hakkında sorgulanması yerine, kamuoyunun hayal gücü kurgusal süper zekâlı makinelerin gelmesiyle gelecekte neler olabileceği korkusuna yönlendiriliyor.
Yapay zeka endüstrisi ayrıca popüler, iki partili veri merkezi karşıtı aktivizmin, bu şirketlerin inşa ettiği yaklaşan, korkutucu süper insan makinelerin düzenlenmesine yönelik girişimlerden bir dikkat dağıtma olduğunu bile öne sürdü. Yapay zeka endüstrisine göre iklim felaketini kötüleştiren veri merkezleri, bunların yakınında yaşayanların astımı, bunları sübvanse eden kamuoyunun artan elektrik faturaları ya da bunları soğutmak için yönlendirilen su yerine kurgusal bir makine tanrısından daha çok endişe duymalıyız.
Pazarlamaya dayalı kararlar almamayı ve bu kararları hızla almaya yönelik kurumsal baskıya boyun eğmemeyi biliyoruz. Politika yapıcıların ve toplulukların sağduyulu karar vermesi, bağımsız uzmanların görüşlerini dinlemek ve şirket iddialarını bağlama yerleştirmek için zamana ihtiyaç duyuyor. Bu abartı yazından çıkabilecek en iyi sonuç, politika yapıcıların ve geniş kamuoyunun nefes almayı öğrenmesi, şüpheciliğine sıkı sıkıya sarılması ve bir dahaki sefere karşılaştıklarında bu tür abartıyı olduğu gibi tanımasıdır.
Timnit Gebru, DAIR’ın icra direktörü ve 16 Şubat’ta yayımlanması planlanan ve şu anda ön siparişe açık olan yaklaşan kitabı Deep Unlearning: The Radicalization of a Tech Idealist’in yazarıdır. Emily M. Bender, Washington Üniversitesi’nde dilbilim profesörü ve The AI Con’un ortak yazarıdır.
