Et nytt prosjekt viser hvordan den 125 milliarder parameter store språkmodellen Qwen 3.8 Flash Next kan kjøres på vanlig forbrukermaskinvare som RTX 4090, med en hastighet på 100 tokens per sekund.

Kilde: https://github.com/Niko1221/Strata