Eski OpenAI CTO'su Mira Murati'nin kurduğu yapay zeka girişimi Thinking Machines Lab, Çarşamba sabahı Inkling adını verdiği ilk kendi modelini yayınladı. OpenAI, Anthropic veya Google'ın amiral gemisi modellerinin aksine Inkling, açık ağırlıklı bir model. Yani dışarıdaki geliştiriciler ve şirketler modeli indirip doğrudan değiştirebilecek.
Inkling, toplam 975 milyar parametreye sahip bir 'uzmanlar karışımı' sistemi. Ancak herhangi bir görev için bunun yalnızca küçük bir kısmını, yaklaşık 41 milyar parametreyi kullanıyor. Bu, çok büyük modelleri daha hızlı ve daha ucuz çalıştıran yaygın bir tasarım. Şirketin tanıtım materyallerine göre model, 45 trilyon token metin, görüntü, ses ve video üzerinde eğitildi ve dört alanda da doğal olarak akıl yürütebiliyor. Ancak şimdilik çıktıları kod, stillendirilmiş yapılar ve yapılandırılmış veriler dahil olmak üzere metinle sınırlı.
Bu model, Thinking Machines Labs'ın bir buçuk yıl boyunca büyük ölçüde kamuoyundan uzakta yapay zeka altyapısı inşa ettikten sonraki ilk kamuya açık kanıtı. Bu çalışmaların bir kısmı daha önce Mayıs ayında yayınlanan bir araştırma ön izlemesinde ortaya çıkmıştı. Söz konusu ön izleme, tipik sohbet robotlarında olduğu gibi durup beklemek yerine dinleyip konuşabilen (ve hatta sözünü kesebilen) yapay zeka olan 'etkileşim modelleri' üzerineydi. Inkling aynı zamanda girişimin arkasındaki temel iddianın da bir testi: Kuruluşların kendileri için uyarlayabileceği yapay zeka, en büyük laboratuvarların şu anda sattığı tek tip modellerden daha başarılı olacak.
Inkling, belirsizliği işaretlemek ve tahmin yürütmek yerine kalibre edilmiş yanıtlar verecek şekilde tasarlandı. Kullanıcılar, hız karşılığında 'düşünme çabasını' artırıp azaltabiliyor. Şirket, bir kıyaslamada Inkling'in aynı kodlama performansına ulaşmak için Nvidia'nın en yeni nesil açık ağırlıklı modeli Nemotron 3 Ultra'nın kullandığı token'ların yalnızca üçte birini kullandığını söylüyor.
Thinking Machines, Inkling'in sınıfının en iyisi olduğunu iddia etmiyor. Tanıtım materyallerinde Inkling'in 'bugün mevcut olan en güçlü model olmadığı, ister kapalı ister açık olsun' ifadesi yer alıyor. Şirketin açıkça hedeflediği şey bunun yerine çok yönlü performans ve özelleştirilebilirlik.
Bu durum, hedeflediği kurumsal pazarda bu ürünün gerçekte kimin için olduğu sorusunu gündeme getiriyor. Thinking Machines, Inkling'i şimdilik bitmiş bir üründen çok bir başlangıç noktası olarak pazarlıyor. Kuruluşların, şirketin model özelleştirme platformu Tinker aracılığıyla kendilerinin ince ayar yapması için bir temel olarak sunuyor. Bu aynı zamanda, örneğin özelleştirmelerinin güvenli olduğundan emin olma sorumluluğunun Thinking Machines'e değil müşterilere ait olduğu anlamına geliyor. (İnce ayar yapmak ciddi makine öğrenimi uzmanlığı gerektiriyor.)
OpenAI, Anthropic ve Google, ChatGPT, Claude ve Gemini ile çok farklı bir yaklaşım benimsedi. Bu modellerin tümü, öncelikle genel amaçlı sohbet robotları olarak rekabet etmek üzere inşa edildi ve üzerlerine aracı, otonom özellikler eklendi.
Thinking Machines tarafından geçen hafta yayınlanan bir yazı, bu lansmanın arka planını oluşturmayı amaçlıyordu. Şirket bu yazıda, bir şirket tarafından merkezi olarak eğitilen ve daha sonra değiştirilemez hale getirilen yapay zekanın, kuruluşların kendilerinin şekillendirdiği yapay zekadan daha düşük performans gösterdiğini savundu. Çünkü uzmanlığın büyük kısmı ona sahip olan kişilere özgü.
Kapalı modellere karşı diğer argümanlar da güç kazanıyor. Pazar günü yayınlanan bir blog yazısında, şirketi hem OpenAI hem de Anthropic'e milyarlarca dolar yatırım yapan Microsoft CEO'su Satya Nadella, özel yapay zeka modelleri kullanan işletmelerin etkin bir şekilde iki kez ödeme yaptığı uyarısında bulundu: Bir kez abonelik maliyetleriyle, bir kez de istemlerine ve düzeltmelerine gömülü olan ve gelecekteki model sürümlerine dahil edilebilecek iş bilgilerini teslim ederek.
Hugging Face CEO'su Clem Delangue geçen hafta TechCrunch ile yaptığı görüşmede benzer bir tahminde bulundu. Ön saflardaki modellerin giderek daha fazla deney ve yüksek değerli görevler için ayrılacağını, üretim yapay zeka işlerinin çoğunun ise özel veya açık kaynak alternatiflere kayacağını söyledi. Thinking Machines'in iş modelini tam da bu ayrım üzerine kurduğu belirtiliyor.
Thinking Machines'in yaklaşımının en net kanıtı, dünyanın en büyük hedge fonu Bridgewater Associates ile yapılan yakın tarihli bir projeden geldi. Her iki şirketten araştırmacılar, mevcut bir açık kaynak modelini alıp Bridgewater'ın kendi finansal uzmanlığı üzerinde daha da eğitti. Sonucun, finansal akıl yürütme testlerinde %84,7 puan alarak en iyi özel yapay zeka modellerini geride bıraktığı ve çalıştırma maliyetinin kabaca on dörtte biri kadar olduğu belirtildi. Ancak bu sonuçlar, bağımsız bir değerlendirmeden değil, iki şirketin kendi değerlendirmesinden geliyor.
Her halükarda Thinking Machines, bu noktaya ne kadar hızlı geldiğini vurguluyor. OpenAI'in teknolojisini pazara sunması ve gelir göstermesi yaklaşık beş yıl, Anthropic'in ise yaklaşık üç yıl sürdü. Thinking Machines aynısını yaklaşık dokuz ayda yaptığını söylüyor.
Bazıları Inkling'in rakiplerinin modellerinin çıktıları üzerinde eğitilip eğitilmediğini merak edecek. Sektör genelinde incelemeye tabi tutulan bu uygulama 'damıtma' olarak biliniyor. Şirketin kendi materyallerine göre kısa cevap kısmen evet. Thinking Machines, Inkling'i sıfırdan ön eğitime tabi tuttu, ancak büyük ölçekli pekiştirmeli öğrenme devralmadan önce erken dönem eğitim sonrası verilerinin bir kısmını oluşturmaya yardımcı olması için Moonshot AI'nin Kimi K2.5'i de dahil olmak üzere diğer açık ağırlıklı modelleri kullandığını söylüyor. Şirket, bir sonraki modelin bunun yerine tamamen kendi kendine yeten eğitim sonrası kullanacağında ısrar ediyor.
Maliyet tarafında Thinking Machines daha temkinli davrandı. Mart ayında bir gigawatt Vera Rubin bilgi işlem kapasitesi dağıtmak için Nvidia ile ortaklık kurdu ve Inkling'i tamamen Nvidia'nın GB300 NVL72 sistemleri üzerinde eğitti. Ancak bu maliyetleri nasıl karşılamayı planladığını açıklamadı ve çoğu hesaba göre gelir bir öncelik olmadı. (Geçen Kasım ayında 50 milyar dolarlık bir fon toplama turunun bir araya geldiği bildirilmişti ancak Ocak ayına kadar durmuştu; şirket o zamandan beri fonlama durumu hakkında konuşmayı reddetti.)
İlgili bir soru da Thinking Machines'in harcamalarının hiçbir zaman OpenAI veya Anthropic'in ölçeğine ulaşıp ulaşmayacağı veya verimlilik odaklı yaklaşımının ekonominin farklı görünmesi anlamına gelip gelmediği. Başka bir deyişle, şirketin iddiası, sonunda daha büyük rakipleri gibi harcama yapacağından çok, buna hiç ihtiyaç duymayacağı olabilir. Çünkü ağırlıklar bir kez kamuya açıklandığında, bunları indiren hiç kimsenin Thinking Machines'e çalıştırmaları için ödeme yapma zorunluluğu yoktur. OpenAI ve Anthropic'in sattığı ölçümlü erişimin aksine. Şirketin gelirinin modelin kendisinden değil, eğitim, ince ayar ve şimdi de etrafında oluşturulan barındırma ekosisteminden bir pay yoluyla Tinker'dan gelmesi gerekiyor.
En azından çalışan sayısı daha istikrarlı görünüyor. Thinking Machines'in şu anda yaklaşık 200 çalışanı var. Bu sayı, Ocak ayında iki kurucu ortağın OpenAI'e gitmesi de dahil olmak üzere bu yılın başlarında yaşanan bir ayrılma dalgasının ardından bildirilen seviyelerden yüksek.
Thinking Machines, kendi adına, sektörün çoğunun yaptığı gibi bireysel hamleleri ön plana çıkarmakla ilgilenmiyor gibi görünüyor. Şirket içi bir kaynağa göre, kültürü, tasarım gereği, herhangi bir kişiliğe bağımlı olmaktan ziyade sürekliliği tercih ediyor. Bu mantıklı: İnsanlar hiçbir zaman bir kaideye oturtulmadıysa, ekipleri değiştirdiklerinde bu daha az aksaklık oluyor. Ayrıca, kendi hikayesinin ne kadarının, planlasın ya da planlamasın, artık ünlü olan kurucu ortağının adıyla ilişkilendirildiği düşünüldüğünde, bir şirketin bunu talep etmesi dikkat çekici bir şey.