Skribenten kjører en lokal språkmodell-server på sin M4 Pro Mac Mini med 48 GB RAM, som håndterer alt fra en agent-backend til raske chat-spørringer fra mobilen. Hele oppsettet tar omtrent 30 minutter å sette opp.

Kilde: https://lws.io/blog/my-local-model-setup/