Databricks ve Perplexity AI kurucu ortağı Andy Konwinski, bu hafta yayımladığı makalesinde yapay zeka gücünü yoğunlaştırmanın başlı başına bir güvenlik riski olduğunu savundu. Makale, 30 Haziran'da San Francisco'da yaklaşık 100 araştırmacının katıldığı Open Frontier çalışma toplantısının ardından yayımlandı. Turing Ödülü sahibi Yann LeCun ise konuya doğrudan X'te yanıt vererek bugünkü kapalı laboratuvar anlayışını 'Osmanlı İmparatorluğu'nun matbaayı 200 yıl yasaklamasına benzer bir ortaçağ obscurantizmi' olarak nitelendirdi.
Perplexity AI ve Databricks kurucu ortağı Andy Konwinski, yapay zeka güvenliği tartışmalarının temel bir sorunu olduğunu düşünüyor: Bu söylemin, zararı önlemekten çok gücü merkezileştirmek için kullanıldığını iddia ediyor. Geçtiğimiz günlerde yayımladığı makalesinde bu görüşünü Anthropic örneğiyle temellendirdi.
Konwinski'nin argümanının başlangıç noktası, Anthropic'in 48 saat içinde geri adım attığı bir karar. Şirket, 9 Haziran'da Claude Fable 5'i piyasaya sürdüğünde, 319 sayfalık sistem kartının derinliklerinde bir paragraf, modelin rakip bir yapay zeka eğittiğinden şüphelendiği kişilere sessizce daha düşük kalitede yanıt vereceğini açıklıyordu.
Araştırmacılar bu durumu tespit etti ve internetten büyük tepki geldi. Anthropic geri adım atmak zorunda kaldı.
Ancak Konwinski için bu geri adım, büyük tabloyu değiştirmiyor. 'Sorun, Anthropic'in kötü bir karar alması değil,' diye yazdı. 'Sorun, bu kararı alma hakkını kendilerinde görmeleri.'
Konwinski'nin 'Yapay Zekada Güç Yoğunlaşması Bir Risk, Çözüm Değil' başlıklı makalesi, 30 Haziran'da San Francisco'daki Exploratorium'da kâr amacı gütmeyen kuruluşu Laude Institute aracılığıyla düzenlediği Open Frontier toplantısının ardından yayımlandı. Yaklaşık 100 araştırmacı etkinliğe katıldı.
UC Berkeley'de Bilgisayar, Veri Bilimi ve Toplum Koleji'nin dekanı Jennifer Chayes, bir fon panosunda Berkeley araştırmacılarının 'tamamen Çin modelleri üzerine inşa yaptıklarını çünkü Batı'da açık kaynak bir sınır modeli bulunmadığını' söyledi. Chayes ayrıca OpenAI ve Anthropic'in halka arz öncesi güvenlik mesajlarının 'çok etkili bir korku kampanyası' olduğunu belirtti.
Konwinski'ye göre erişimi merkezileştirmek riski ortadan kaldırmıyor, aksine yeni bir risk yaratıyor. Yapay zeka, demiryolları, elektrik ve internetle aynı kategoride değerlendirilmesi gereken temel bir altyapı. Bu teknolojiler, toplumu kontrol eden katman etrafında yeniden şekillendirdi. Aynı durum yapay zeka için de geçerli. Konwinski'nin alternatifi: özel laboratuvarlardan izin almadan en ileri düzeyde araştırma yapabilecek bilim insanları için sınır ölçeğinde hesaplama gücüne sahip bir araştırma ortak alanı.
LeCun: Osmanlı'nın Matbaa Yasağı Gibi
Meta'nın eski baş bilim insanı Yann LeCun, Konwinski'nin makalesine X'te net bir yanıt verdi. 'Yıllardır benzer bir mesajı yayıyorum,' dedi. 'Yapay zekada gücün yoğunlaşması ve kontrol arzusu, yapay zekanın açık ara en büyük tehlikesidir.'
LeCun'un dikkat çekici bir tarihsel benzetmesi de vardı. 'Bu, Osmanlı İmparatorluğu'nun matbaanın kullanımını 200 yıl boyunca yasaklamasına benzer bir tür ortaçağ obscurantizmi,' diye yazdı. 'Kısmen dogmayı kontrol altında tutmak, ama aynı zamanda hattatlar ve yazıcılar loncasını korumak için.'
LeCun, bu durumun nereye varacağını da öngördü: 'Altyapı açık olmak ister. Temel modeller altyapı haline geliyor ve kaçınılmaz olarak metalaşacak. Uzun vadede para uygulama katmanında.'
LeCun, 2025 sonunda Meta'dan ayrıldı ve Mart 2026'da Paris'te 1.03 milyar dolar tohum yatırımla AMI Labs'ı kurdu. Şirket dünya modelleri ve JEPA mimarisi üzerinde çalışıyor, araştırmalarını açık kaynak olarak yayımlamayı planlıyor ve önümüzdeki yıllarda ticari bir ürün çıkarması beklenmiyor.
