Et nytt prosjekt viser hvordan den 125 milliarder parameter store modellen Qwen 3.8 Flash Next kan kjøres på et vanlig RTX 4090-skjermkort med en hastighet på 100 tokens i sekundet.

Kilde: https://github.com/Niko1221/Strata