DwarfStar 4 er en ny, lettvekts inferensmotor skrevet i C for å kjøre store språkmodeller lokalt på Mac-, CUDA- og ROCm-maskiner.

Kilde: https://dwarfstar.sh/