Spektaküler matematik sonuçlarını itibar krizine çeviren OpenAI, daha az felaketli bir yol bulmak için insan matematikçilerle istişareye başladı.
Pazartesi günü şirket, matematik araştırmalarıyla ve daha geniş matematik topluluğuyla etkileşim konusunda, yeni sonuçların nasıl sunulup yayınlanacağı da dahil olmak üzere şirketlere ve diğer yapay zekâ şirketlerine tavsiyede bulunmak üzere görevlendirilen yeni bağımsız bir matematikçi panelini duyurdu. Ani oluşu birçok matematikçiyi şaşırttı. Araştırmacılar The Verge’e grubu iyi bir ilk adım olarak nitelendirdi, ancak birçoğu grubun gerçekte ne yapacağı, ne kadar etkisi olacağı ve OpenAI’nin gerçekten onu dinleyip dinlemeyeceği gibi temel sorularla kaldığını söyledi. Ayrıca bu kadar küçük bir seçkin araştırmacı grubunun daha geniş matematik topluluğunu temsil edip edemeyeceği konusunda endişelerini dile getirdiler.
Dokuz üyeli grup, araştırmacıların The Verge’e anlattığına göre alandaki ünlü isimlerden oluşuyor. Stanford, Harvard, Oxford ve Cambridge gibi kurumları temsil ediyorlar ve aralarında birden fazla Fields Madalyası ve MacArthur “deha” bursu sahibi bulunuyor. Grup, dünyanın en saygın matematik araştırma merkezlerinden biri olan ve Albert Einstein, John von Neumann ve J. Robert Oppenheimer gibi isimlerin eski entelektüel yuvası olan Princeton, New Jersey’deki Institute for Advanced Study, IAS tarafından ev sahipliği yapılacak.
OpenAI, Advisory Group on Mathematics and Artificial Intelligence yani AGMAI adını verdiği grubun bağımsız çalışacağını, şirketin istemediği tavsiyelerde bulunma özgürlüğüne sahip olacağını, matematiğe etkileri hakkında kamuoyu önünde yorum yapabileceğini ve tavsiyelerini kamuoyuna açabileceğini söyledi, ancak bunun neyi kapsayacağına dair ayrıntı vermedi. Grubun görevini yerine getirebilmek için OpenAI’nin araştırmalarına erken erişim verileceği anlaşılıyor. Üyeler OpenAI tarafından ücretlendirilmeyecek ve grup üyeliğini dilediği gibi değiştirebilecek. Şirket, “Değeri, üyelerin kendi yargılarını kullanabilmesine ve bizimkini sorgulayabilmesine bağlı” dedi. “Grup, ortaya çıkan sonuçların gözden geçirilmesi ve iletilmesi konusunda tavsiyede bulunacak: önemlerini değerlendirmemize yardımcı olacak, yayımının nasıl koordine edileceği konusunda tavsiyede bulunacak ve matematik araştırmalarının akademik ve mesleki standartları konusunda tavsiyede bulunacak. Ayrıca araçlarımızın matematik araştırmasını ve öğrenmeyi nasıl destekleyebileceği konusunda da tavsiyede bulunacak.”
Bağımsızlık vurgusuna rağmen grubun gerçekte ne kadar etkisi olacağı ya da neden kurulduğu belirsizliğini koruyor. İsviçre’de ETH Zürih’te araştırmacı olan Simon Machado, bütün sürecin “gizemlerle çevrili” göründüğünü söyledi ve dokuz üyenin nasıl seçildiğini sorguladı. Grubun yalın web sitesi, “OpenAI’nin bazı üyelerine dış bir danışma kurulu oluşturma konusunda yaklaşmasının ardından bir araya geldiğini” belirtiyor, ancak şirketle yapılan görüşmelerin ardından matematikçilerin bunun yerine bağımsız bir grup kurmayı ve başkalarını davet etmeyi seçtiğini yazıyor. OpenAI’nin başlangıçta hangi üyelerle görüştüğü ya da kalan üyelerin nasıl seçildiği net değil.
Danışma grubu üyesi Martin Hairer, Salı günü yayımladığı blog yazısında grubun kökenlerini ve arkasındaki düşünceyi detaylandırdı. Oluşumuna ilişkin “yanlış bilgilerin selini” yanıtladığını söyledi. “Yapay zekânın matematik araştırmaları üzerinde zaten derin bir etkisi olduğu ve fikirlerin doğru atfedilmesi, öncelik, fikirlerin insan tarafından anlaşılması vb. konularda pek çok soru ortaya çıkardığı açık” diye yazdı ve topluluğun “AI laboratuvarlarını görmezden gelme ve prensip olarak onlarla konuşmayı reddetme” şeklinde katı bir “devekuşu” yaklaşımı benimsemesinde anlam olmadığını ekledi.
Grup, OpenAI’den gelen bir yaklaşımın ardından kurulduğunu kabul ederken Hairer, üyelerinin tamamının şirket tarafından temasa geçirilmediğini ve ortaya çıkan organizasyonun “OpenAI’den ve diğer sözde ‘sınır’ yapay zekâ laboratuvarlarından gerçekten bağımsız” olduğunu vurguladı. “Açık gizlilik gerekliliklerinin” ötesinde, üyelerin kamuya açık olarak ne söyleyebileceklerini düzenleyen kısıtlayıcı bir anlaşma imzalamadığını, mali tazminat almadıklarını ve teknik destek için IAS’ye güvendiklerini belirtti.
“Diğer temel gerçek, genel amacımızın matematik topluluğunun çıkarlarını mümkün olduğunca iyi temsil etmek olduğudur” diye yazan Hairer, Imperial College London profesörü ve İsviçre Federal Teknoloji Enstitüsü Lozan, EPFL’de profesör. Grup topluluğun pek de temsili bir örneği değilken, “dokuzumuzun da bunu son derece ciddiye aldığından ve iyi niyetle hareket ettiğimizden kesinlikle eminim” dedi.
Üyeler nasıl seçilirse seçilsin grup şu anda seçkin akademik matematikçilerden oluşan bir kadrodan oluşuyor. Küçük boyut, matematiğin ön saflarında faaliyet göstermek için gereken son derece uzmanlaşmış beceri ve bilgi göz önüne alındığında grubun karşısına çıkacak her şeyi değerlendirmek için gerekli uzmanlık genişliğine sahip olup olmadığı sorusunu da beraberinde getiriyor.
İskoçya’daki Heriot-Watt Üniversitesi’nde göreve başlayacak matematik profesörü Francesco Fournier-Facio, panele karşı kendisini oldukça “kararsız” olarak tanımladı ve matematikçilerle daha fazla etkileşimin “sadece işleri daha iyi hale getirebileceğini” söyledi. Ancak bu grubun, OpenAI’nin matematik kupaları toplama arayışıyla çalışmaları ve geçim kaynakları altüst edilen topluluğu tam olarak yansıtıp yansıtmadığını sorguladı. The Verge’e “Bu bir kule-i âli hissi veriyor” dedi.
Machado da grubun üyelerinin yapay zekâ karşısında daha geniş matematik topluluğunun endişelerini ne kadar anladığını ya da dile getirebildiğini sorguladı. “Harika matematikçiler ama daha politik sorularda beni temsil etmesini istediğim insanlar olduklarını bilmiyorum” dedi. Machado, matematikçilerin kendi ve benzeri seçkin konumlarında “karşı karşıya oldukları gerçekliğin, şu anda çoğu matematikçinin karşı karşıya olduğu gerçeklikten çok farklı olduğunu” söyledi.
Grubun matematikçilerin güvenini kazanıp kazanamayacağı, OpenAI’nin sonuç duyurularındaki son hatalar silsilesinin ardından oluşan zararın kontrol altına alınmasında ve daha önemlisi şirketin duyurmayı planladığı bir sonraki şey için zararın hafifletilmesinde ne kadar etkili olacağını belirleyecek. Blog yazısında Hairer, üyelerin “yapay zekâ laboratuvarlarının söylediklerimizi kendi halkla ilişkiler makinelerine uyan bir şekilde çarpıtmak için denemeyeceklerine inanmanın çok naif olacağı” uyarısında bulundu ve bu makinenin kendilerinin üretebileceğinin çok ötesinde olduğunu belirtti.
