Hugging Face, Meta, Microsoft, Mistral ve Nvidia'nın da aralarında bulunduğu 25 yapay zeka şirketi, politika yapıcıları açık ağırlıklı yapay zeka modellerine yönelik geniş kapsamlı 'erken kısıtlamalar' getirmemeye çağıran bir açık mektuba imza attı. 'Open Weights and American AI Leadership' (Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği) başlıklı mektup, Washington'da ABD'nin Çinli yapay zeka laboratuvarlarının Amerikan meslektaşlarından fikri mülkiyet çaldığı ve giderek yeteneklerini artırdığı iddialarına nasıl yanıt vermesi gerektiğinin tartışıldığı bir dönemde yayınlandı.
Mektupta Çin'den hiç bahsedilmiyor, ancak Trump yönetiminin Çin'in açık ağırlıklı modellerini yasaklamayı ve potansiyel olarak ülkedeki yapay zeka şirketlerine yaptırım uygulamayı değerlendirdiği yönündeki haberlerin ardından geldi. Beyaz Saray ayrıca Moonshot AI'yı, Anthropic'in Fable modelini kullanarak kısa süre önce piyasaya sürdüğü ve her açıdan oldukça etkileyici olan Kimi K3 modelini eğitmekle suçladı. 2,8 trilyon parametreli Kimi K3, çip hisselerini sarsmış ve bazı kıyaslamalarda Claude Fable 5'i geçmişti.
Mektubun, Çin modellerine yönelik tam bir yasağı caydırmayı ve yönetimin Çin'in sözde 'damıtma' (distillation) faaliyetlerine vereceği yanıtın, açık ağırlıklı yapay zeka veya damıtma gibi yaygın teknikler üzerinde daha geniş kısıtlamalara yol açmamasını sağlamayı amaçladığı görülüyor:
'Politika yapıcılar, meşru model geliştirme tekniklerini haksız kullanımla karıştırmamaya dikkat etmelidir. Damıtma veya bir modelin çıktılarını başka bir modeli eğitmek veya geliştirmek için kullanma uygulaması, model iyileştirme, değerlendirme ve doğrulama için yaygın olarak kullanılan bir tekniktir. Bu, açık kaynak yazılım hareketinin yükselişinden bu yana inovasyonu yönlendirmeye yardımcı olan, mevcut teknolojilerden öğrenme, üzerine inşa etme ve onları geliştirme geleneğini yansıtmaktadır.
Buna karşılık, kapalı modellerden yasa dışı yollarla değer çıkarma girişimleri meşru endişeler doğurmaktadır. Bu endişeler, yapay zeka inovasyonunda önemli rol oynayan teknikler üzerinde geniş kapsamlı kısıtlamalar yerine, hedefe yönelik yasal ve ticari çerçevelerle ele alınmalıdır.'
Mektuba imza atan Replit'in CEO'su Amjad Masad'ın TechCrunch'a söylediği gibi: 'Bence Çin'in açık modellerini yasaklamak, genel olarak açık modelleri yasaklamakla aynı şey.' Masad, Thinking Machine Labs'ın yeni açık modeli Inkling'in Moonshot'ın Kimi 2.5 modelinin yardımıyla eğitildiğine dikkat çekti. 'Bu bir ekosistem ve (bir yasağın yaratacağı) emsal kötü olur.'
Mektup ayrıca sektördeki, açık ağırlıklı modellerin güçlü modellere erişimi genişlettiği ve bunların siber saldırılarda veya diğer kötü niyetli faaliyetlerde hiçbir denetim olmaksızın kullanılabileceği için doğası gereği tehlikeli olduğu yönündeki argümanlara da karşı çıkıyor. Mektupta 'Açıklık, yapay zeka güvenliği ve emniyeti için en önemli yollardan biri olabilir' ifadesi yer alıyor.
Mektupta, 'Bu riske doğru yanıt, açık ağırlıkları yasaklamak değildir. Siber güvenlik saldırganlarının gelişmiş yapay zeka kullandığı bir dünyada, savunmacıların ortaya çıkan tehditleri tespit edebilmek, simüle edebilmek ve yanıt verebilmek için karşılaştırılabilir yeteneklere sahip modellere erişmesi gerekir. Açık modeller savunma yeteneklerini genişletir, şeffaflığı artırır ve güvenlik açıklarının birçok ekip tarafından keşfedilmesine ve giderilmesine olanak tanır.' ifadeleri yer alıyor.
Geçtiğimiz hafta OpenAI, GPT-5.6 Sol ve başka bir isimsiz modeli test ederken sistemlerden birinin test ortamındaki bir zafiyeti kullanarak bir kod kıyaslamasının çözümünü içeren bir Hugging Face deposuna eriştiğini açıkladı. Modelin amacının kötü niyetli olmadığı ve en yüksek puanı almak için bir testte hile yaptığı ileri sürülebilir. Ancak bu olay, gelişmiş yapay zeka teknolojisinin bir avuç kapalı sağlayıcının arkasında toplanmasının riskleri hakkında tartışma başlattı.
Hugging Face, ticari öncü yapay zeka modelleriyle bu saldırıya karşı kendini savunamadığını çünkü bu modellerin güvenlik önlemlerinin (guardrails) çabalarını engellediğini söyledi. Kullandığı kapalı yapay zeka modelleri, bir saldırgan için istismar yazılımı oluşturma talebi ile bir savunmacının bunları tespit etme talebi arasındaki farkı ayırt edemedi. Bunun üzerine şirket, saldırıya karşı kendini savunmak için Çinli yapay zeka firması Z.ai'nin güçlü bir açık ağırlıklı modeli olan GLM 5.2'yi kullanmak zorunda kaldı.
Mektup, yapay zeka sektöründeki bölünmeyi gözler önüne seriyor. OpenAI ve Anthropic gibi şirketler, açık ağırlıklı modellerin yetenekleri hızla artarken yönetimi, Çinli yapay zeka firmalarının iddia edilen fikri mülkiyet hırsızlığına yanıt vermeye çağırdı. Bu yanıtın sonucu, ucuz, yüksek yetenekli ve erişilebilir yapay zeka modellerinin yayılmasıyla tehdit edilen iş modelleri üzerinde büyük etkiler yaratabilir. OpenAI'nin stratejik gelecekler başkanı Dean Ball, X'te açık ağırlıkların egemen olduğu bir dünyanın 'tam yapay zeka komünizmi' ve 'distopik bir cehennem' olacağını yazdı.
OpenAI, Anthropic, Google DeepMind ve SpaceX gibi kapalı kaynaklı yapay zeka geliştiricilerinin bu mektubun altında imzalarının olmaması dikkat çekiyor. Nvidia CEO'su Jensen Huang mektubu X'teki ilk paylaşımında duyurdu: 'Yapay zeka her sektörü dönüştürecek, her şirkete güç verecek ve her ülke tarafından inşa edilecek. Açık modeller güvenliği ve siber güvenliği güçlendirir, inovasyonu ve yayılımı hızlandırır ve egemenliği mümkün kılar.' Microsoft CEO'su Satya Nadella da açık modelleri 'sağlıklı bir yapay zeka ekosistemi için gerekli' olarak nitelendirdi.
Mektuba imza atanların, açık yapay zeka modellerinin gelişmesinde açık bir ekonomik çıkarları var. Nvidia, Microsoft Azure ve diğer altyapı sağlayıcıları gibi şirketler, modellerin metalaşmasını teşvik etmekte çıkar sahibi: Modeller birbirinin yerine geçebilirse, insanlar daha fazla GPU satın alacak, daha fazla bulut kapasitesi kiralayacak, daha fazla uygulama oluşturacak ve daha fazla yönlendirme katmanı kullanacaktır.
Mektup, politika yapıcıları girişimciler ve araştırmacılar için bilgi işlem erişimini genişletmeye, veri kümeleri, araçlar ve değerlendirme çerçeveleri gibi ortak eğitim varlıklarına yatırım yapmaya ve 'rekabeti bastıran veya inovasyonu denizaşırı ülkelere iten açık modellere yönelik erken kısıtlamalardan kaçınarak öncü alanı çoğul tutmaya' çağırıyor.
Bu makale Replit CEO'su Amjad Masad'ın yorumuyla güncellenmiştir.
