Caltech araştırmacıları tarafından kurulan ve UC Berkeley’den Ion Stoica’nın danışmanlığını yaptığı yapay zeka laboratuvarı PrismML, Qualcomm’un Snapdragon yongaları üzerinde çalışan akıllı gözlükler için minik dil modellerinin bir versiyonunu geliştirdi.
Çarşamba günü Qualcomm’un Snapdragon Zirvesi’nde yonga üreticisi, Snapdragon AR1 Gen 1 Platformu üzerine inşa edilen yapay zeka destekli akıllı gözlüklerde yerel olarak çalıştırılabilen PrismML’in 1-bit Bonsai LLM’ini sergiledi.
TechCrunch daha önce bildirmişti; PrismML’in ün kazandığı nokta, daha büyük modelleri önemli ölçüde küçültmesi bu durumda 4 kat ve standart kıyaslamalarda performanslarının neredeyse tamamını koruması. Akıllı gözlük sürümü, görme ve dil için ayarlanmış 2 milyar parametreli bir model; böylece kullanıcılar gerçek zamanlı olarak gördükleri şeyi sorabiliyor.
Prism’in daha geniş hedefi, cihazlarda çalışan ve mevcut hesaplama gücünden daha iyi yararlanan açık ağırlıklı yapay zeka. Startup, bunu tescilli yapay zeka laboratuvarlarının gizlilik vaatlerine ve daha fazla hesaplama konusundaki doymak bilmez ihtiyacına bağımlı olmaya alternatif olarak sunuyor.
Qualcomm’un yongası için model yayınlamak bu vizyona doğru bir adım. Ancak PrismML çalıştıran akıllı gözlüklerin duyurusu henüz yapılmadı.
