En gjennomgang av hva det faktisk koster å kjøre AI-modeller i produksjon, ved hjelp av enkle beregninger basert på kjent maskinvare og modellarkitektur. Artikkelen gir utviklere og produktteam et praktisk rammeverk for å vurdere skaleringsgrenser.
Kilde: https://injuly.in/blog/napkin-inference-cost/index.html