Forfatteren hadde allerede et RTX 4080 med 16 GB VRAM – nok til spilling, men for lite til å kjøre større KI-modeller lokalt, så han fant en rimeligere vei oppover.

Kilde: https://blog.tymscar.com/posts/v100localllm/