ChatGPT Diogo Almeida'nın kalbini kırdı.
Almeida, sohbet robotunu inşa etmeye yardım eden ve mevcut yapay zeka çağından belki de en sorumlu olan model eğitimi tekniği olan insan geri bildiriminden pekiştirmeli öğrenmeyi RLHF'yi icat eden bir OpenAI araştırmacısıydı. Ancak yeteneklerine rağmen hayal kırıklığına uğradı.
“Şişede yıldırım var ama kullanışlı değil,” diye anlattı Almeida TechCrunch'a. “O zamandan beri bu sorunla mücadele ediyorum. Sonuca varmam bir süre aldı: Sorun insan dili için optimize ediyor olmamız… İnsan dili konusunda dört yıldır çok iyiyiz ama otomasyon için kullanışlı değil çünkü bilgisayarlar farklı bir dil konuşuyor.”
İki yıl önce Almeida OpenAI'den ayrılarak bu sorunu çözmeye çalışan bir girişim olan TypeSafe AI'ı kurdu. Bu hafta şirket, büyük bir dil modeli LLM olmayan dönüştürücü tabanlı yeni bir model Jev'i yayınladı. Metin üretmiyor, bunun yerine olasılıklar üretiyor ya da şirketin tabiriyle “kalibre edilmiş kararlar”.
Dilden kaçınmak birkaç şey yapıyor: Modeli inanılmaz ucuz ve hızlı hale getiriyor ve kullanıcılar çıktıları önceden tanımladığı için halüsinasyon yapamıyor. Çıktı token'ları ücretsiz ve giriş token'ları milyonla değil milyarla ölçülüyor.
Geliştiriciler ürünle büyük ilgi gösteriyor; şirket API'den kullanıcılara hizmet verme yeteneğini kısa süreliğine kaybetti çünkü talep çok yüksekti. Jev yazılım otomasyonu için en kullanışlı görünüyor. Şimdiye kadar yazılım geliştiriciler onu kodlarına zekâ katmanın daha ucuz ve daha sağlam bir yolu olarak görüyor.
Örneğin, ajan altyapısı yapan bir şirket olan Vercel'de yazılım mühendisi olan Pranit Sharma, şirketinin güvenlik için komutları gözden geçiren bir sınıflandırıcı çalıştırmak üzere OpenAI'nin ChatGPT Luna 5.6'sını kullandığını söyledi. Vercel OpenAI'nin Luna'sını Jev ile değiştirdiğinde sonuçlar beş ila 18 kat daha hızlı ve daha yüksek doğrulukla elde edildi.
Bir başka geliştirici, Bryo AI CTO'su Nikhil Mudholkar, Jev'i iş e-postalarını sınıflandırmak için Gemini ile test etti. Testinde Gemini biraz daha doğruydu ama 10 ila 20 kat daha pahalıydı. Mudholkar için daha ilginç olan Jev'in güven skorlarıydı — “gerçek bir olasılık geri veren tek model bu, bu da onu iş akışlarını otomatikleştirmek için ideal kılıyor!!”
LLM'lerin belirli kullanım durumlarında yerini almanın yanı sıra yeni model onları da güçlendirebilir, kötü davranışlara karşı akıllı bir kontrol görevi görebilir. Ajanları ajanlarla izlemek hızla pahalı hale gelebilir ama bunu Jev ile yapmak Almeida'ya göre mantıklı. Kullanıcıların LLM ajan izlerini takip etmek ve jailbreak'leri önlemek için Jev'i konuşlandıracağını görüyor.
“Sonunda halüsinasyon sorununu biraz kullanıcıya devrediyor,” diye açıkladı Pi açık kaynak model harness'ini inşa eden Earendil'in CTO'su Armin Ronacher. “Kullanıcının şöyle demesi gerekiyor: Tamam, bu sadece yüzde 50 olasılıkla dönüyorsa belki bu bir yazı tura atışıdır ve ben bunu göz ardı ederim. Ama yüzde 95 ise evet, o zaman onunla bir şey yapabilirim.”
Başka bir potansiyel kullanım Ronacher'a göre model yönlendirmesi. Belirli bir iş yükünün belirli bir modeli gerektirip gerektirmediğini tahmin etmek faydalı olurdu ama iş için bir LLM kullanmak pahalı olurdu. Jev'in düşük maliyeti ve hızı bu tür gerçek zamanlı sıralamayı mümkün kılıyor.
Ve işte Almeida'nın umudu. Model, düşen maliyetin bir meta malın daha fazla ve daha fazla kullanılmasına yol açtığını tanımlayan eponim paradoksuyla tanınan 19. yüzyıl ekonomisti William Stanley Jevons'un adını taşıyor. Bu durumda zekânın düşen maliyeti yaygın dağıtımına yol açmalı.
“Akıllı yazılımın, insanların şu anda inşa etmeye çalıştığı mega uygulamalar gibi değil, erken internete çok daha benzer şekilde ortaya çıkan ve dağıtık bir şekilde her yerde olacağını düşünüyoruz,” dedi Almeida.
Almeida, dış gözlemcilerin açık ağırlıklı bir LLM'nin üzerine inşa edildiğinden şüphelendiği modelin mimarisi hakkında ketum. Şirket Jev'i sezgi üzerine odaklanan ve özellikle doğru görev üzerine odaklanan bir “Sistem Bir modeli” olarak adlandırıyor ve akıl yürütme üzerine değil. Almeida, Jev'in “kalibre edilmiş kararlardan pekiştirmeli öğrenme” adını verdiği bir teknikle tamamen sentetik veriler üzerinde eğitildiğini söylüyor.
“Tüm verilerimizi kendimizin üreteceğimize dair erken bir bahis yaptık ve bu hayatımda yaptığım en iyi bahislerden biri oldu — bence lansmandan daha iyi, RLHF'den daha iyi,” diye anlattı TechCrunch'a. “[Şirketimizin] yarısı temelde bu tüm alt alanına sahip olan ve istatistiksel olarak iyi anlaşılmış sentetik verinin sahibi olan bir laboratuvar ve bu şimdi benim hayatımın sevinci.”
Şimdilik Jev bu türden tek model olarak duruyor ama Ronacher, faydasının açık hale gelmesiyle rakiplerin ortaya çıkacağını bekliyor.
“Birçok açıdan bunu daha önce görmeliydik ama muhtemelen LLM'ler o kadar ucuz ve sübvanse edildiği için henüz yaratıcı olmanız gerekmiyor,” dedi.
TypeSafe kendisi yeni modallitelerde modelin daha fazla sürümünü inşa edecek. TypeSafe'in bir öncü laboratuvar olup olmadığı sorulduğunda Almeida, “öncü laboratuvarların ana ürünü korku ya da abartıdır. Benim ana ürünümün zekâ olmasını isterim… [ama biz] sonsuz zenginliğe bahis oynamak ya da bir din ya da bir veri merkezinde Tanrı inşa etmek gibi bugünün şeyi olmak gibi bir laboratuvar değiliz,” dedi.
