Quantization-Aware Healing Haberleri

Araştırmacılar Bir Yapay Zeka Modelini Küçülttü ve Nasıl Olur da Zeki Hale Getirdiler
🔥 90

Araştırmacılar Bir Yapay Zeka Modelini Küçülttü ve Nasıl Olur da Zeki Hale Getirdiler

Multiverse Computing'in araştırmacıları, OpenAI'nin açık GPT-OSS modelini 120 milyar parametrelerden 60 milyar parametreye küçülttü ve belleğini 4-bit'e sıkıştırdı. Ancak küçük model, orijinal modelden daha iyi performans gösterdi. Araştırmacılar, küçük modeli orijinal modelin cevaplarına göre eğitti ve bu sayede küçük modelin performansı arttı.

28 görüntülenme