Rotary GPU: Lokal kjøring av store MoE-modeller med begrenset VRAM

Forskningsartikkel som utforsker lokale eksekveringsstier for store Mixture-of-Experts-modeller på maskinvare med begrenset VRAM. Arbeidet ser på hvordan slike modeller kan kjøres effektivt utenfor datasentre.

Kilde: https://arxiv.org/abs/2605.29135