Et nytt prosjekt viser hvordan språkmodellen Qwen 3.8 Flash Next med 125 milliarder parametere kan kjøres på et vanlig RTX 4090-skjermkort, med en hastighet på 100 token i sekundet.

Kilde: https://github.com/Niko1221/Strata