Model Sıkıştırma Haberleri

Bonsai 27B: Cebinize Sığan İlk 27 Milyar Parametreli Yapay Zeka Modeli
⭐ 80

Bonsai 27B: Cebinize Sığan İlk 27 Milyar Parametreli Yapay Zeka Modeli

PrismML, 27 milyar parametreli Bonsai 27B modelini sadece 3.9 GB boyutuna sıkıştırarak iPhone'da çalıştırmayı başardı. Ternary varyantı, tam hassasiyetli modellerin performansının %94.6'sını korurken, Apple'ın bu sıkıştırma teknolojisi için PrismML ile görüşmelere başladığı bildiriliyor.

30 görüntülenme