Geliştirici konferansında Perşembe günü Box, ürününün merkezine Nvidia'nın Nemotron gömme sistemini entegre eden yeni bir özelliği tanıttı.
Özelliğin adı Box Content Retrieval. Yeni sistem, Nemotron tarafından oluşturulan gömülü meta verilere dayanarak ajanların sorgulara çok daha etkili yanıt vermesini sağlıyor.
Box'a göre kullanıcıların kazanımı daha hızlı, daha doğru ve daha ucuz sorgular olacak. Nvidia'nın üretken yapay zeka yazılımı başkan yardımcısı Kari Briski, TechCrunch'a yaptığı açıklamada sorguların dört kat daha hızlı yanıtlanmasını, hataların yüzde 20 azalmasını ve kullanılan token sayısının yüzde 90 düşmesini beklediğini söyledi.
Sistem, önümüzdeki yılın başında kullanıma sunularak Box'ın tüm Enterprise Advance müşterilerine açılacak.
Box CEO'su Aaron Levie, "Bu, ajanlar için arama teknolojimizin alaka düzeyini ciddi şekilde artırıyor" dedi. "Bir ajanın her belgeyi tek tek okumak zorunda kalması yerine, kullanıcının sorgusuyla veya ajanın yaptığı görevin gerektirdiğiyle en alakalı belge parçalarını geri gönderebiliyoruz."
Özellik, otomatik alma sistemlerini iyileştirmek için açık ağırlıklı gömme modelleri sunan Nvidia'nın Nemotron Embed projesinin bir uygulaması. Büyük laboratuvarlar genellikle ajanlar tarafından daha iyi kullanılabilmesi için verilerin önceden işlenmesini sağlayan bu tür modelleri göz ardı etti. Sektör, Nvidia'nın açık kaynak model projesinin odak noktası oldu ve temmuzdaki son Nemotron sürümü, alma kalitesini ölçen RTEB kıyaslamasında zirveye yerleşti.
Box'a göre sistem aktif ajanlarla birlikte kullanıldığında en faydalı olacak. Örnek olarak avukatlar gösterildi; yeni sistemle ilgili maddeleri ve emsal kararları daha kolay bulabilecekler. Nemotron'un gömme verileri basit anahtar kelimelerin ötesine geçip temel kavramları eşlediği için arama aracı, farklı ifadeler veya dil kullanıldığında bile ilgili hukuki temaları ortaya çıkarabiliyor.
Nemotron modelleri ücretsiz olarak sunulsa da sistem büyük ölçüde Box'ın mevcut meta verilerine ve izin kontrollerine dayanıyor; bu da sıfırdan yeniden oluşturmayı zorlaştırıyor. Levie, TechCrunch'a "Muhtemelen beş farklı teknolojiyi tek bir basit API'ye paketliyoruz" diye konuştu.
