Et GitHub-prosjekt viser en NEON-optimalisert kjerne som gir opptil 6,5 ganger raskere prompt-behandling i llama.cpp på Arm-prosessorer.
Kilde: https://github.com/hardwiredagent/silicon-forge-arm-neon-study
Llama.cpp: 6,5 ganger raskere prompt-behandling på Arm med en NEON-kjerne
