Kaotik geçen birkaç ayda OpenAI iki şeyi olağanüstü tutarlılıkla yapabildiğini gösterdi: matematikte etkileyici atılımlar yapmak, sonra bunları duyururken büyük bir fiyasko çıkarmak. OpenAI şimdi daha iyi yapmaya çalışıyor. Bir şekilde onu da beceriksizce yaptı.
OpenAI’nin defalarca uzaklaştırdığı matematiksel toplulukla kırık ilişkileri onarmaya yönelik son girişimi, seçkin uygulayıcılardan oluşan yeni bağımsız bir danışma grubuna danışmak oldu. The Verge’e konuşan matematikçiler, grubun bir üyesi de dahil, OpenAI’nin önceki aceleci matematik girişimlerinin pek çok özelliğini taşıyan karmaşık ve kafa karıştırıcı bir süreçten söz etti; bu da şirketin hatalarından pek ders almadığını gösteriyor. Gruba verilen ilk zorlu görev ise şu: OpenAI’nin yayınlanmamış modelinin ürettiğini söylediği çok sayıda sonucun açıklanmasının koordine edilmesine yardımcı olmak. Bu olasılık, bu yaklaşan atılım dalgasının alanlarına ne yapabileceği konusunda araştırmacılarda endişe uyandırıyor.
21 Eylül’de seçkin bir grup matematikçi, UCLA matematik profesörü Terence Tao’nun blogunda yayımlanan bir misafir yazıda Matematik ve Yapay Zeka Danışma Grubu’nun (AGMAI) kurulduğunu duyurdu. Tao, Fields Madalyası sahibi ve yapay zeka şirketlerinin matematik alanındaki tutumunu açıkça eleştiren bir isim. Grup, alanın en tepesindeki dokuz seçkin matematikçiden oluşan bağımsız bir organ olacaktı. Yazıda grubun OpenAI’den bağımsız çalışacağı ve diğer öncü yapay zeka laboratuvarlarına da “yeni sonuçların gözden geçirilmesi ve duyurulması” konusunda danışmanlık vereceği belirtildi. Kendi açıklamasında OpenAI grubun bağımsızlığını sürekli vurguladı; üyelerin şirketi herkese açık şekilde eleştirebileceğini, tavsiyelerini yayımlayabileceğini ve şirketin istemediği rehberlik sunabileceğini söyledi. Aynı zamanda grubun etkisinin sınırlarını da vurguladı ve grubun “matematikte iç ilerlememizin temposu konusunda bize danışmanlık vermekle sorumlu olmayacak” olduğunu kaydetti.
Ama o gruptan birçok matematikçi, özellikle de topluluk dışındaki insanların çoğu, OpenAI’nin çok daha gürültülü tanıtımı sayesinde öğrendi.
Sonuç, AGMAI’nin gerçekten bağımsız olup olmadığı ya da The Verge’e duyuru sonrası konuşan bazı matematikçilerin varsaydıkları gibi bir tür OpenAI tarafından atanmış organ olup olmadığı konusunda yaygın kafa karışıklığı oldu. Bu izlenim tamamen yersiz değildi; AGMAI’nin sitesi grubun, OpenAI’nin olası üyelerden bazılarına danışma kurulu kurulması konusunda yaklaştıktan sonra bağımsız hareket etmeye ve diğerlerini davet etmeye karar vermesiyle kurulduğunu söylüyor. Dokuz üyenin hangisine OpenAI’nin ilk olarak yaklaştığı belirsizliğini koruyor.
Bir konferans salonundan The Verge’e görüntülü görüşmeyle konuşan AGMAI üyesi ve Imperial College London ile Lozan’daki İsviçre Federal Teknoloji Enstitüsü’nde (EPFL) matematik profesörü Martin Hairer, grubun OpenAI’den bağımsızlığına vurgu yapmaya özen gösterdi. OpenAI’nin bazı matematikçilere yaklaşmasının oluşumun asıl tetikleyicisi olduğunu kabul ederken, grubun şirketten finansal, teknik ya da başka bir destek almadığını söyledi ve üyelerin araştırma için ileri erişim sağlamak adına gereken standart gizlilik yükümlülüklerinin ötesinde ne söyleyebileceklerini ya da yapabileceklerini kısıtlayan bir anlaşma imzalamadığını belirtti.
Hairer için son derece yoğun bir dönem geçti; geçen birkaç günü “çok sinir bozucu” ve “yoğun” bir deneyim olarak tanımladı. “OpenAI için çalışmıyoruz, onlardan maaş almıyoruz ve tamamen bağımsızız” dedi. Hairer grubun diğer öncü yapay zeka laboratuvarlarıyla da eşit derecede çalışmaya açık olduğunu ve bazılarıyla görüşmelere başladığını söyledi, ancak hangileri olduğunu açıklamaktan kaçındı.
Yine de Hairer, OpenAI’nin ilişkiyi duyuruş biçimine karşı can sıkıntısı duyduğunu belli etti. Ortaya çıkan kargaşa sırasında yayımlanan bir blog yazısında, yapay zeka şirketlerinin grubun katılımını kendi avantajlarına çevirmeye çalışmayacağı düşüncesinin naif olacağını kabul etti. Grup kısmen OpenAI’nin önceki matematiksel atılımları berbat yönetmesinden dolayı ortaya çıktığına göre bu risk ön plandaydı. OpenAI’nin prestijli bir Bin Yıl Ödülü problemine çözümü, kredi, öncelik kapma ve matematikçilere muamelesi üzerine tartışmalara hızla dönüştü; bu yüzden topluluk doğal olarak şüpheciydi.
Hairer, OpenAI’nin duyurusunun yeni kurulan grubun bağımsızlığını tesis etmesine pek yardımcı olmadığını kabul etti. AGMAI, yapay zeka şirketleriyle giderek daha gerginleşen ilişkiyi yönetmelerine yardımcı olabilmek için matematikçilerin güvenini kazanmak zorunda. “Duyurularını ifade ediş biçimi gerçekten yardımcı olmadı” dedi Hairer. “Tam detayıyla okursanız söylediklerinde yanlış bir şey yok” diye ekledi ve şirketin kelimeleri konusunda “dikkatli” olduğunu belirtti. “Açıkça çok iyi halkla ilişkiler insanları” dedi ve güldü.
Tüm girişim — duyuru, grubun kuruluşu, matematiksel toplulukla iletişimi — sanki aceleyle bir araya getirilmiş gibi hissettiriyor. Geçen Çarşamba AGMAI’nin planları sorulduğunda Hairer güldü ve “Yani biz, biliyorsun, iki gün önce başladık. Yani büyük bir usta planımız yok gibi” dedi.
Bu aciliyet, OpenAI’nin mümkün olan en kısa sürede açıklamaya hevesli olduğu bir yığın sonuca sahip olmasından kaynaklanıyor olabilir. Navier-Stokes Bin Yıl Ödülü problemini çözdükten bu yana OpenAI, yayınlanmamış dahili “modelinin artık matematiğin hemen hemen tüm alanlarında 100’den fazla uzun süredir açık olan problemi çözdüğünü” söylüyor.
Başka bir halkla ilişkiler felaketinden kaçınmak, OpenAI’nin danışmak üzere dünyanın en iyi matematikçilerinden bazılarını bir araya getirme zahmetine girmesinin nedeni. Ama bekleyen sonuçların sayısını övüp bunları sorumlu bir şekilde ele alacağına söz verirken, OpenAI’nin ne kadar matematiksel bir dışardan biri olduğunu sadece vurguluyor.
“Bu hiçbir akademisyenin davranışı değil” dedi Connecticut Üniversitesi matematik profesörü Álvaro Lozano-Robledo. “Ben etrafta ‘Ah, tüm bunları kanıtladım ama ne yapacağımı bilmiyorum’ demiyorum.”
OpenAI’nin diğer açıklamalarında benzer bir kopukluk görüyor; örneğin OpenAI’den Laurance Fauconnet’in The Verge’e şirketin başka bir Bin Yıl Ödülü problemi üzerinde “önemli ilerleme kaydettiğini” söylemesi gibi. “Hiçbir matematikçi dışarı çıkıp böyle bir şey demez” dedi Lozano-Robledo. “Ya çözdün ya da hâlâ deniyorsun.”
Lozano-Robledo, AGMAI ile etkileşime geçmenin OpenAI’nin matematikçilerin endişelerini ele alma konusunda ciddi bir girişimi olmasını umduğunu söyledi, ancak bunun için araştırma topluluğunun sorumlu bir üyesi olması gerektiğini vurguladı. Bu, birçok matematikçinin en son bulgularıyla yaptığını düşündüğü gibi sonuçları dünyaya bırakıp geçmekten daha fazlasını gerektiriyor. The Verge’le konuşan araştırmacılar, zayıf yazılmış el yazmaları ve bir bulgunun çevresindeki literatürle yetersiz ilgiden şikâyet etti; bunların tümü bir sonucun önemini anlamayı zorlaştırıyor ve önemli çalışmalara uygun kredi verilmemesine yol açıyor. Zaman zaman şirket, yayımlandıktan sonra eksiklikleri gidermek için sessizce belgeleri değiştirdi, ancak değişiklikleri duyurmadı ya da neyin değiştirildiğine dair açık bir kayıt bırakmadı. The Verge bunu şirketin ağustos başında “Matematik ve teorik bilgisayar biliminde on ilerleme” duyurusunda fark etti ve Hairer ayrı olarak şirketin eleştirilere yanıt olarak el yazmalarını “gizlice” değiştirdiği zamanlar olduğunu anlattı. “Bu da insanları paranoyak yapıyor, değil mi?” dedi Hairer, bunu “yetersiz” ve “gerçekten kötü ve ihmalkâr bir bilim” olarak tanımladı.
Başka yerlerdeki yapay zeka çöpü gibi, bunu üretenler nadiren bununla başa çıkma maliyetini öder. Lozano-Robledo, yapay zeka kaynaklı matematik çözümlerinin selini topluluk için bir “yük” olarak tanımladı — yapay zeka şirketlerinin temelden yanlış anladığını düşündüğü bir yük. “Yük, bir çözüm üretmeleri” dedi, ancak çözümler genellikle onlarla gelen anlayış kadar önemli değil. İnsan matematiğinde ikisi geleneksel olarak el ele gitmiştir ve yapay zeka bunun değişmesine neden oluyor.
Yapay zeka şirketleri etkileyici sonuçlar üretebilir, ancak bir sonucun gerçekten ne kadar önemli olduğunu anlamak için hâlâ insan matematikçilere ihtiyaçları var. “Uzmanlığımıza ihtiyaçları var” dedi Lozano-Robledo. “Bu çözümü kutlamamız gerekiyor.”
The Verge’le konuşan diğer matematikçiler için bu yük çok daha kişisel. Haftalarca OpenAI başka bir Bin Yıl Ödülü problemine işaret ediyor ve açıklayacağı gibi görünüyor; aynı zamanda büyük problemlere yönelik 100’den fazla sonucun hazır olduğunu söylüyor, ancak bunların ne olduğuna dair pek bir şey açıklamıyor. Geçmiş duyurular, özellikle Navier-Stokes etrafındaki kargaşadan sonra, bu belirsizlik gergin bir atmosfer yarattı. Birçok araştırmacı, mesleki hayatlarının yıllarını, hatta on yıllarını adadıkları bir problem ya da çalışma alanının bir sonraki hedef olmasından korktuğunu dile getirdi; bir şirket tarafından ani bir şekilde ortadan kaldırılma riski var; bu şirketin bunu bir halka arz yolunda bir tanıtım numarası olarak yaptığından şüpheleniyorlar.
“Ne kanıtlamış olabilecekleri konusundaki paranoyayı sadece besliyorlar” dedi Lozano-Robledo, şirketi “heyecanı körüklemekle” suçladı ve birçok matematikçinin çalışma alanının bir sonraki hedef olabileceğine dair korkusunu artırdı. “‘Başka bir Bin Yıl problemini neredeyse çözdük’ dediğinde hangi Bin Yıl probleminden bahsediyorlar? Bu cümle matematikte bir anlam ifade etmiyor.” Araştırmacı, böyle bir gösterişin matematiğin genellikle yapıldığı şekilde olmadığını vurguladı.
İskoçya’daki St Andrews Üniversitesi matematik profesörü Colva Roney-Dougal için OpenAI etrafındaki belirsizlik, çalışmasıyla ilgili düşünme biçiminde zaten derin bir etki yaratıyor. “Yakında ‘büyük bir sayı’ sonuç duyurulacak olmasının biraz acı verici olduğunu bilmek” dedi. “Ne kadar çok olursa, devam eden çalışmamın ya da öğrencilerimin çalışmasının birdenbire alakasız hale gelme olasılığı o kadar artar.”
Hızlı gelişim temposu Roney-Dougal’ı tuhaf bir akademik kavşağa bıraktı: “Bu yüzden mümkün olduğunca çok makaleyi aceleyle çıkarmaya çalışıp çalışmamam gerektiğini, yoksa bu sonuçları pasif olarak beklemem gerektiğini, yoksa normal şekilde devam etmemi gerektiğini bilmiyorum” dedi.
Hairer bu tür kaygının farkında. Araştırmacılara yönelik potansiyel bozulmanın, Fields Madalyası sahiplerinden oluşan bir listenin yapay zeka şirketlerinin ve matematiksel topluluğun hedeflerini “ciddi şekilde uyumsuz” olarak tanımladığı konuyu ele almak için adını eklemesinin nedenlerinden biri olduğunu söyledi. Ayrıca OpenAI’nin kendisinin ve diğer önde gelen AGMAI üyelerinin katılımını özellikle genel kamuoyuyla avantajına çevirebileceğinin de farkında.
“Bırakın” dedi. “Matematik topluluğu içinde beni bir şekilde zedelemeyecekler” dedi Hairer. “Bir anlamda ne söylediklerini umursamıyorum. Ama endişelendiğim şey tüm matematik topluluğu.”
