Yirmi beş önde gelen matematikçi, yapay zeka laboratuvarlarının ünlü matematik problemlerine çözüm bulmak için birbirleriyle yarışırken entelektüel çalışmalarını tehdit ettiğini savunan açık bir mektup imzaladı. Her imzacının matematik alanındaki en prestijli ödül olarak kabul edilen Fields Madalyası'nı aldığı belirtildi.
Bu hafta New York Üniversitesi profesörü Tristan Buckmaster, OpenAI'nin önemli bir matematik problemini çözdüğü için Anthropic'te çalışan bir iş arkadaşına atıf yapmaması için baskı yaptığını iddia etti. Buckmaster ayrıca şirketin Codex ile yaptıkları çalışmayı kullanarak maraton bir çıkarım hafta sonu boyunca kendi çığır açan ispatını üretip üretmediğini sorguladı.
Perşembe günü OpenAI, üniversitedeki araştırmacılar tarafından eleştirildikten sonra CalTech'teki bir matematik etkinliğine olan sponsorluğunu geri çekti.
Yapay zeka modellerinin dünyanın çözülmemiş matematiksel zorluklarını çözme yeteneği insanlık için bir nimet olabilirken, yeni mektubun imzacları bunun ancak bu çözümlerin matematik topluluğu tarafından anlaşılabildiği ve iletilebildiği, nihayetinde de dünyanın geri kalanına aktarılabildiği durumda gerçekleşeceğini savunuyor.
“Çözümler çoğu zaman aceleyle duyuruluyor, düzgün bir yazıya zaman kalmıyor, yeni yöntem ve fikirlerin ayrıştırılması ve başkalarının ilgili önceki çalışmalarına atıf yapılması mümkün olmuyor” diye yazdılar — ve OpenAI'nin ispatı hâlâ doğrulanmadı. “Tüm yaratıcı mesleklerde olduğu gibi bu durum ciddi atıf ve intihal soruları doğuruyor. Ayrıca, gelişimlerini üstlenip matematiksel kanona entegre edecek gönüllü matematikçiler olmadan, yapay zekâ tarafından kurgulanmış fikirler asla tam anlamıyla canlı hâle gelmez ve matematikçiler arasındaki hayati insan aktarım zinciri kaybolur.”
Diğer matematikçilerin de paranoyak hâle gelmesi ve Codex kullanımının OpenAI'nin yeni modellerine geri beslendiğini merak etmesiyle, açık araştırma kültürünün tehdit altında olduğuna dair gerçek bir korku var. Günümüzde öncü laboratuvarlar bir keşfe ulaşmanın faydalı bir yolunu görürse, orijinal araştırmacıları ispatta geçmek için büyük dil modellerini kullanarak on milyonlarca dolar harcayabiliyor — bu dinamik gizliliği teşvik edecek.
Bu mektup, Haziran ayında matematikçilerden oluşan bir çalışma grubu tarafından yayımlanan Leiden Bildirgesi'nin ardından geldi. Söz konusu belge, büyük dil modeli ispatlarının çalışmaları nasıl değiştireceğiyle de mücadele ediyor ve matematikçiler, kurumlar ve politika yapıcılar için bir dizi öneri sunuyor.
Yazılım mühendisliği ve yapay zeka araçlarının iş akışlarını değiştirdiği diğer alanlarda olduğu gibi, matematikçiler de işin etrafındaki işte bir gerekçe buluyor: Matematikteki değer yalnızca ispatlar ve kimin kredi aldığı değil, öğrencileri besleyen, yeni sorular ve fikirler bulan ve bunları daha geniş insan uygarlığına entegre eden entelektüel süper yapıdır.
Ve yüksek riskli matematiksel ispatların acımasız dünyasıyla özellikle ilgilenmiyorsanız unutmayın: İlgi alanınız olan alan sırada.
“Matematik topluluğunun bugün karşı karşıya olduğu sorunlar, diğer bilimsel ve yaratıcı mesleklerin karşılaştığı sorunlara benzer ve tüm insanlığın karşı karşıya kalabileceği sorunları gösteriyor: Yapay zekâ iş yapma biçimini değiştirdikçe, bu işin aslında neyi başarmak için yapıldığını gözden kaybetmemeyi nasıl sağlayacağız?” diye yazdılar.
