Yapay zeka çıkarım şirketi Groq, 350 milyon dolarlık yeni bir fon topladı.
Şirketten 17 Ağustos Pazartesi günü yapılan basın açıklamasına göre, bu Seri A turu, Groq'un "eğitim ve çıkarım işlemleri için Nvidia hızlandırmalı bilişimin orta ve daha büyük ölçekli kümelerini kullanmak isteyen" müşterilerine destek olmasını sağlayacak.
Yatırım turuna teknoloji firması Disruptive liderlik ederken, tura geçen yıl Groq ile 20 milyar dolarlık bir lisans anlaşması imzalayan Nvidia'nın da katılımı öngörülüyor.
Groq İcra Kurulu Başkanı ve aynı zamanda Disruptive CEO'su olan Alex Davis, konuyla ilgili yaptığı açıklamada şu ifadeleri kullandı: "Ekosistem için böyle kritik bir dönemde Nvidia ile olan ortaklığımıza devam etmeyi dört gözle bekliyoruz."
Davis sözlerini şöyle sürdürdü: "Çıkarım işlemleri, şüphesiz yapay zeka altyapısının en büyük ve en kritik katmanı haline gelecek. Ekibimiz, LPU'ları geniş ölçekte çalıştırma ve yapay zekanın yeni neslinin talep ettiği performansı, verimliliği ve güvenilirliği sunma konusunda eşsiz bir deneyime sahip."
Yapılan açıklamaya göre Groq, dünya genelinde 13 veri merkezi işletiyor ve 6 milyondan fazla geliştiriciye, Fortune 500 şirketlerine ve binlerce "yapay zeka odaklı şirkete" hizmet veriyor. Şirket, daha önce Haziran ayında da 650 milyon dolar fon toplamıştı.
Nvidia, geçen yıl Groq'un teknolojisini satın almış ve şirketin ekibinden birkaç kişiyi kadrosuna katmıştı. Ancak Groq, bağımsız bir şirket olarak faaliyet göstermeye devam edeceğini duyurmuştu.
Daha önce de değindiğimiz gibi çıkarım (inference), eğitilmiş bir yapay zeka modelinin yeni verileri işleyip sonuçlar ürettiği aşamayı ifade ediyor.
Konuyla ilgili daha önce yayımlanan bir raporda şu ifadelere yer verilmişti: "Bir müşteri hizmetleri sohbet botu bir soruyu yanıtladığında veya bir yapay zeka sistemi finansal bir belgeyi analiz ettiğinde, işte bu çıkarımın ta kendisidir. Eğitim, geniş veri setlerini işleyerek kalıpları öğrenmek ve modeli oluşturmakla ilgilenirken; çıkarım, bu öğrenilen bilgiyi kullanarak belirli görevleri büyük ölçekte yerine getirir."
Şirketler her gün binlerce hatta milyonlarca isteği karşılayan yapay zeka sistemleri kurdukça, çıkarım işlemleri temel bir operasyonel zorluk ve maliyet unsuru haline geliyor.
Geçen sonbahar yayımlanan başka bir PYMNTS raporu ise çıkarım işlemlerini ve neden çoğu işletme için artık model eğitiminden daha önemli hale geldiğini mercek altına aldı. Büyük bir dil modelini eğitmek sadece bir kez veya çok nadiren yapılır. Ancak çıkarım, bir kullanıcı yapay zeka sistemiyle her etkileşime girdiğinde gerçekleşir. Tek bir model, her ay milyonlarca çıkarım isteğini yönetebilir. Bu isteklerin her biri hesaplama kaynağı gerektirir ve hem gecikmeye hem de ek maliyetlere yol açar.
Raporda ayrıca şu vurgu yapıldı: "Müşteriye dönük uygulamalarda yapay zeka kullanan şirketler için çıkarım performansı; kullanıcı deneyimini, sistem güvenilirliğini ve operasyonel giderleri doğrudan etkiler."
