vLLM har sluppet versjon 0.28.0 med nye funksjoner og forbedringer for inferens av store språkmodeller. Oppdateringen er tilgjengelig på GitHub.
Kilde: https://github.com/vllm-project/vllm/releases/tag/v0.28.0
vLLM har sluppet versjon 0.28.0 med nye funksjoner og forbedringer for inferens av store språkmodeller. Oppdateringen er tilgjengelig på GitHub.
Kilde: https://github.com/vllm-project/vllm/releases/tag/v0.28.0