Bu hafta Salesforce'un dev Dreamforce teknoloji konferansında yapılan en büyük duyurulardan biri, Koa adlı yeni bir yapay zeka modeli. Koa şirketin ilk akıl yürütme modeli ve Nvidia'nın açık ağırlıklı Nemotron modeli üzerine kuruldu. İki şirket birlikte Koa'yı satış, pazarlama ve müşteri desteğiyle ilgili görevlerde başarılı olması için sonradan eğitti.
Koa, kurumsal dünyanın yapay zekaya olan ihtiyacının öncü laboratuvarların sunduklarından nasıl ayrıştığının parlak bir örneği. Özel yapay zeka laboratuvarları, şirketlerin dosyalarını, kodlarını, istemlerini ve geri bildirimlerini doğrudan modellerine ve ajanlarına yüklemesini ve bunun için milyonlar harcamalarını tercih ediyor.
Ama modelle birlikte Salesforce kurumsal müşterilerine şunları sunuyor:
kapalı öncü modellere açık ağırlıklı bir alternatif
imkansız matematik problemlerini çözmek için değil, belirli iş görevlerini yapmak üzere eğitilmiş bir model
hiçbir gerçek müşteri verisini sindirmemiş ve bu yüzden veriyi başkalarına sızdıramayacak bir model
aynı işi yapmak için daha az token kullandığı için yapay zeka harcamalarını azaltmaya yardımcı olan bir model
ihtiyaca göre otomatik olarak bir yapay zeka "geçidi" üzerinden yönlendirilebilen bir model
ve Salesforce içinde gömülü tüm müşteri veri gereksinimlerine ve güvenliğine uyan bir model
Koa, müşterilerin müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin işleri üstlenecek ajanlar oluşturduğu Agentforce platformunda sunulan diğer modellere alternatif olarak sağlanacak.
Salesforce AI EVP'si Jayesh Govindarajan TechCrunch'a verdiği demeçte, "Agentforce'un portföyünün parçası olan birçok küçük görev odaklı dil modeli geliştirdik. Ancak akıl yürütme her zaman öncü model sağlayıcılarına güvendiğimiz bir şeydi. Ta ki şimdi kadar." dedi.
Koa'dan önce, bir ajan uzun süren veya çok adımlı bir görevde akıl yürütmesi gerekiyorsa, bu istemler Agentforce'un yapay zeka geçidi üzerinden Claude veya ChatGPT gibi bir öncü modele yönlendiriliyordu. Yapay zeka geçidi, hangi isteğin hangi model tarafından işleneceğine karar veren sistem.
Govindarajan, "Bunu daha önce yapmama nedenimiz, kendi kurumsal sınıfı öncü modelimizi eğitmek her zaman istediğimiz bir şeydi ama zorluk her zaman başlamak için önceden eğitilmiş bir taban modelinin olmamasıydı. Nemotron gelene kadar, birincisi mevcut olan, ikincisi en son teknoloji olan ve üçüncüsü açık veri kökenine sahip egemen bir Amerikan önceden eğitilmiş modeli yoktu. Qwen'in ne üzerinde eğitildiğini bilmiyoruz" dedi ve Alibaba tarafından üretilen popüler Çin açık ağırlıklı modeline atıfta bulundu.
Bir modeli sonradan eğitmek, onu genel amaçlı bir sistemden satış ve müşteri desteği bilgisine hakim bir hale getirmek anlamına geliyor ve bunu yapmak için Salesforce ve Nvidia hiçbir gerçek Salesforce müşteri verisi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veri oluşturdular.
Govindarajan, "Aslında bir müşteri hizmetleri ortamını simüle ettik; müşteri hizmetleri merkezini arayan öfkeli müşteriler de dahil olmak üzere bir müşteri hizmetleri profesyoneli kişiliğiyle, bir satış profesyonelinin bir anlaşmayı kapatmaya çalıştığı duruma kadar" diye anlattı.
Koa, Salesforce müşterilerinin bir ajandan yapmasını istediği iş görevlerinde Claude veya ChatGPT'ye aynı görevleri göndermekten daha iyi ve yakılan token açısından daha ucuz olmayı hedefliyor.
Nvidia'nın Kurumsal Yapay Zeka Yazılımı Başkan Yardımcısı Kari Ann Briski TechCrunch'a, "Nemotron ile çıkarım için token açısından verimli benzersiz bir mimariye sahibiz. Egemen yapay zeka, ilk tokena kadar geçen süre, verimli akıl yürütme, tüm token ekonomisi için ihtiyacınız olan şeylerin üçlüsü gibi bir şey." dedi.
Ancak Salesforce Anthropic veya OpenAI'den tamamen vazgeçmiyor. Şirketler Claude'u yapay zeka arayüzü olarak kullanırken verilerinin Salesforce'un kayıt sistemi içinde kalmasını ve altyapısı tarafından güvence altına alınmasını sağlayan Claudeforce adlı Anthropic ile bir ortaklık duyurdu.
