PrismML, Qualcomm Snapdragon Zirvesi’nde 1-bit Bonsai LLM’in akıllı gözlüklerde yerel olarak çalışabileceğini gösterdi. 2 milyar parametreli sürüm görme ve dil için optimize edildi ve daha büyük modelleri 4 kat küçülterek performansı koruyor. Şirketin açık ağırlıklı cihaz yapay zekası vizyonuna bir adım olsa da PrismML çalıştıran bir gözlük henüz duyurulmadı.
PrismML, büyük dil modellerini akıllı telefon ve bilgisayarlara sığacak kadar küçülten sıkıştırma teknolojisiyle öne çıkıyor. Şirketin yeni Bonsai 2 27B modeli, Alibaba'nın Qwen3.8 27B modelini 5,9 GB'a indirerek orijinal performansın yüzde 98'ini koruyor. Kurucu ekip Caltech kökenli ve şirket önümüzdeki aylarda yüzlerce milyar parametreli modellere odaklanmayı planlıyor.
PrismML, 27 milyar parametreli Bonsai 27B modelini sadece 3.9 GB boyutuna sıkıştırarak iPhone'da çalıştırmayı başardı. Ternary varyantı, tam hassasiyetli modellerin performansının %94.6'sını korurken, Apple'ın bu sıkıştırma teknolojisi için PrismML ile görüşmelere başladığı bildiriliyor.