Et GitHub-prosjekt samler notater og læringsressurser om hvordan inferens med store språkmodeller fungerer.

Kilde: https://github.com/samir-sarwar/samir-vllm