Silikon Vadisi'nde yapay zekanın potansiyel riskleriyle ilgili tartışmalar sürerken, en çok endişe yaratan konu büyük yapay zeka laboratuvarlarının Truva atı gibi davranma ihtimali. Startup'lar ve büyük şirketler OpenAI ve Anthropic gibi laboratuvarların modellerini kullandıkça, bu laboratuvarların müşterilerinin en hassas ticari bilgilerine erişimi artıyor. Model üreticileri bu bilgileri kendi çıkarları için kullanarak müşterilerine rakip haline gelebiliyor. Bu uyarıları daha önce girişim sermayedarı Jason Calacanis ve Palantir CEO'su Alex Karp da yapmıştı.
Microsoft CEO'su Satya Nadella, Pazartesi günü yayımladığı şaşırtıcı bir blog yazısıyla bu uyarılara katıldı. Nadella'ya göre yapay zeka kullanıcıları (kendi deyimiyle "alıcılar") iki kez ödeme yapıyor. Birincisi bilerek yapay zeka token kullanımı için para ödüyorlar, ikincisinde ise farkında olmadan süreçte değerli verilerini teslim ediyorlar.
Nadella yazısında, "Zekâ için aslında iki kez ödeme yapıyorsunuz: bir kez parayla, bir kez de çok daha değerli bir şeyle: o zekâyı kullanışlı kılmak için açıklamak zorunda kaldığınız özel bilgilerinizle. Model ne kadar iyi performans göstersin isterseniz, ona o kadar fazla bilgi beslemek zorunda kalıyorsunuz!" ifadelerini kullandı.
Nadella'ya göre en tehlikelisi, şirketlerin modellere işlerinin inceliklerini bizzat öğretiyor olması. "Modeller 'egzoz'dan öğrenir: insanların yazdığı komutlardan, ajanların kullandığı araçlardan ve özellikle model yanlış yaptığında yapılan düzeltmelerden. Her düzeltme kurumsal bilgi birikimine dönüşür" diye yazdı. Bunun "bir rakibin asla satın alamayacağı türden bir bilgi" olduğunu ancak şirketlerin bunu gönüllü olarak teslim ettiğini belirtti.
Nadella, yapay zeka şirketleri modellerini eğitmek için interneti özgürce tarayabiliyorsa, şirketlerin de karşılığında bu modelleri inceleme veya "damıtma" hakkına sahip olması gerektiğini savunuyor. "Damıtma", bir modelin kendi çıktılarını kullanarak nasıl çalıştığını öğrenme ve bu bilgilerle yeni, genellikle daha ucuz bir model eğitme pratiği. Şubat ayında Anthropic, Çin açık kaynak modellerini Claude'a milyonlarca komut göndererek kendi modellerini geliştirmekle suçlamış ve ABD hükümetinden ihracat kontrollerini sıkılaştırmasını istemişti.
Nadella'nın vurguladığı nokta, model üreticilerinin her iki taraftan da faydalanamayacağı. Dünyanın verileriyle özgürce eğitim alırken başkalarının kendi modellerine aynı şeyi yapmasını kısıtlamak ikiyüzlülük. Nadella, "Model sağlayıcılarının kamuya açık verilerle model eğitme konusunda adil kullanım haklarına sahip olması büyük bir yenilik, ancak mevcut durumda dönüp damıtmaya kısıtlayıcı şartlar getirilmesini ironik buluyorum" diye yazdı.
Nadella özellikle model üreticilerinin "müşteri kullanım ve etkileşim verilerinden öğrenme hakkını saklı tutmasından" endişeli. Çözüm olarak dev bir bulut sağlayıcısının CEO'sundan beklenebilecek bir öneri getiriyor: Şirketlerin komutlar, geri bildirimler dahil tüm verilerinin "sahipliğini elinde tutması" gerektiğini söylüyor. Bunun için şirketleri bulutta (verilerinin zaten büyük olasılıkla depolandığı ve uygun bir şekilde Microsoft'un bulutu Azure olabilecek) kendi "özel öğrenme ortamlarını" kurmaya çağırıyor. Ayrıca şirketlerin tek bir sağlayıcıya kilitlenmek yerine farklı yapay zeka modelleri arasında kolayca geçiş yapmasını sağlayacak "orkestrasyon katmanları" oluşturmasını öneriyor. Şirketlerin tam da bunu yapmasını sağlayan yapay zeka "geçitleri" giderek popülerleşiyor.
Nadella hiçbir zaman "açık kaynak" kelimesini kullanmasa da, bu yazının alt metninde açık kaynağa yönlendirme olduğu açık. Büyük şirketler, bulutun yanı sıra kendi veri merkezlerine de sahip olanlar, şimdiden kendi tesislerine açık kaynak modeller kurmaya başladı. Solo.io'nun kurucusu ve CEO'su Idit Levine, müşterilerinde tam da bu değişimi gördüğünü söylüyor. Şirketler özel model üreticilerini denedikten sonra kendilerine şu soruyu soruyor: "Açık kaynak bir model alıp kendi tesisimde çalıştırabilir miyim? Büyük modelin yaptığının neredeyse %90'ını yapacak. Çok daha ucuza mal olacak." Levine, "Bunu anlıyorlar ve kontrol edebiliyorlar" diye ekliyor.
Solo.io'nun teknolojisi geçen yıl Linux Vakfı'nın Agentgateway projesinin altyapısı olarak seçildi. Şirketin müşterileri arasında T-Mobile, ADP ve SAP gibi büyük firmalar var. Levine, şirketlerin giderek kendi tesislerinde açık kaynak modeller kurduğunu ve bunun kurumsal yapay zeka kullanımında bir sonraki büyük dalga olduğunu düşünüyor.
Bu görüşte yalnız değil. Web sitesi kurma ve barındırma platformu Vercel ile geliştiricilerin farklı yapay zeka modellerine yönlendirme yapmasını sağlayan OpenRouter, açık kaynak modellere yönelik trafikte büyük artış görüyor. Geçen ay Vercel'in geçidi üzerinden yönlendirilen tüm trafiğin %29'u açık modellere aitti.
Hem OpenAI hem de Anthropic'e yatırım yapmış bir şirket olan Microsoft'un CEO'su şimdi açıkça şirketleri özel modeller kullanma konusunda uyarıyor. Nadella yazısını şöyle bitiriyor: "Zekâyı tüketirken, aynı zamanda zekâ yaratıyorsunuz. Ve yarattığınız şey size ait olmalı."
