Et nytt open source-prosjekt gjør det mulig å køre den 125 milliarder parametere store Qwen 3.8 Flash Next-modellen på et vanlig RTX 4090-grafikkort med rundt 100 token i sekundet.

Kilde: https://github.com/Niko1221/Strata