Intel har sluppet en ny beta av LLM-Scaler-vLLM-prosjektet for å gjøre det enklere å kjøre vLLM på Intel Arc Pro-grafikkort via et Docker-basert oppsett. Oppdateringen skal gi en smidigere opplevelse for brukere av Intel-maskinvare.
Kilde: https://www.phoronix.com/news/Intel-LLM-Scaler-vLLM-0.26.0-b1