En ny test sammenligner ulike kvantiseringsnivåer for språkmodellen Qwen3.8 27B, og viser at 4-bit-versjonen holder ytelsen oppe mens 1-bit-versjonen bryter sammen.
Kilde: https://quesma.com/blog/qwen38-27b-quantizations-benchmarked/
En ny test sammenligner ulike kvantiseringsnivåer for språkmodellen Qwen3.8 27B, og viser at 4-bit-versjonen holder ytelsen oppe mens 1-bit-versjonen bryter sammen.
Kilde: https://quesma.com/blog/qwen38-27b-quantizations-benchmarked/