Çin yapımı açık ağırlıklı yapay zeka modellerinin yetenekleri ve popülaritesi arttıkça, bu modellere yönelik ne yapılması gerektiği tartışmaları yeniden alevlendi.
Trump yönetiminin bu modelleri yasaklamaya çalışabileceği konuşuluyor (ancak henüz bu fikirle ilgili bir adım atılmış değil). Bu arada, özellikle OpenAI ve Anthropic gibi özel model üreticileri bu modellerden giderek daha fazla endişe duyuyor gibi görünüyor.
Moonshot AI'nin Kimi K3'ü veya Alibaba'nın Qwen'i gibi açık ağırlıklı modeller, büyük ABD laboratuvarlarının kapalı kaynak modellerine kıyasla çok daha düşük token maliyetiyle çıkarım yapabiliyor. Korku, bu modellerin bir tür tehdit oluşturması. Kuşkusuz, büyük özel yapay zeka laboratuvarlarının kar marjlarını tehdit ediyorlar.
Peki işletmeler bu modelleri kendi veri merkezlerinde çalıştırırken, Çinli bilgisayar korsanları için bir araç olabileceği korkusuna kapılmalı mı?
Arcee'nin CTO'su Lucas Atkins bu soruya "hayır" yanıtını veriyor. Arcee, ABD'li şirketlere Çin modellerine yerli bir alternatif sunmak için açık modeller geliştiriyor.
Çin modellerinin yasaklanmasından en çok fayda sağlayacak girişim Arcee olurdu. Ancak Atkins, Çin'in açık modellerinin bir şirketin kullanabileceği diğer açık kaynak yazılımlardan daha tehlikeli olmadığını söylüyor. Hatta kendi şirketine bile fayda sağladıklarını belirtiyor.
"Birçok kişi bunu bir Çin yazılım programı gibi görüyor. Yani, şu x, y, z niyetleriyle kodlanmış" ve kötü niyetli bir aktörün bunu kolayca kullanabileceğini düşünüyor, dedi.
"Bu, temelde bu modellerin nasıl eğitildiğiyle ilgili değil. Bir Arcee'nin veya Alibaba'nın bir model yapıp, birinin kendi ortamında çalıştırması ve bizim ona herhangi bir erişimimiz olması mümkün değil," diye açıkladı.
Bu modellerin çoğu "açık ağırlık" olarak bilinse de tam anlamıyla açık kaynak yazılım değil; ancak sunucularda çalışacak kaynak kodu, Hugging Face gibi açık kaynak sitelerinden indirildiğinde büyük ölçüde görünür ve incelenebilir durumda. (Eksik olan kısım, modelleri eğitmek için kullanılan yöntemler ve veriler.)
Büyük kuruluşlar herhangi bir model çekirdeğini güvenlik testlerinden ve inceleme süreçlerinden geçirmeli; ayrıca modelleri kendi özel kullanımları için sonradan eğitirken önyargı, toksisite, halüsinasyon, belirli konulara duyarlılık gibi alanları inceleyebilirler. Yani kullanıcılar modele istem göndermeye başlamadan önce modelle çalışır, optimize eder ve anlarlar.
Kod yazmak için kullanılan bir model, yazdığı koda bir şekilde kötü niyetli arka kapılar yerleştirebilir mi? Teorik olarak mümkün olsa da bunu başarmak için akrobatik beceriler gerekir.
"Yeterince karmaşık bir aktörün, her durumda mükemmel bir kodlama modeli olacak şekilde bir model eğitmemesi için hiçbir neden yok, ancak belirli bir kod tabanı sunulduğunda ... gizli bir eğitim devreye girebilir," diye varsayımda bulunan Atkins, günlerini model eğiterek geçiriyor. Ancak ekliyor: "Bunu nasıl yapacağınızı bilmiyorum."
Büyük dil modelleri doğası gereği yaratıcı olduğundan, önceden planlanmış bir bağlam ve istem fırtınasına yanıt olarak bir modelin kötü amaçlı yazılım üretme olasılığı çok düşük. Bir işletmenin daha sonra bu kodu kullanma olasılığı ise daha da düşük.
Gelecekte olabilir mi? Orasını kimse bilemez. Ancak işletmeler aynı zamanda yapay zeka uygulamalarını modelden bağımsız ve birden çok model kullanacak şekilde inşa ediyor. Yani Çin modelleri bugün fiyat-performans açısından en iyisi olsa da işletmeler sonsuza kadar onları kullanmaya mahkum değil.
"Bence konuşma, Çin modellerinin nasıl yasaklanacağı değil, ABD'de nasıl iyi bir açık ekosistem oluşturulacağı olmalı," diyor Atkins.
Arcee ayrıca Çin modellerinden avantajlar da elde ediyor. Açık oldukları için girişim "bu modellerin iyi olmasından faydalanıyor çünkü ne yaptıklarını öğrenebiliyoruz. Onların üzerine inşa edebiliriz. Sonra onlar da bizim yaptıklarımızı öğrenebilir," diyor. "Bu modelleri inşa eden insanlara, bireysel araştırmacılara büyük saygı duyuyoruz."
Sonuç olarak, Çin modelleriyle rekabet etmenin yolu "daha iyi bir model çıkarmaktır," diyor Atkins. "Onlara konuşacak bir şey vermeliyiz."
