Det handler ikke om at man gjør mindre arbeid, men om at man endrer typen arbeid GPU-en utfører. Mange tror feilaktig at spekulativ dekoding er raskt fordi det kreves mindre arbeid per token.
Kilde: https://jbarrow.ai/2026-10-08-why-is-speculative-decoding-fast/