Det nye prosjektet Janas lar brukere køre store språkmodeller som normalt ikke ville passet i minnet, ved å strømme modellens «eksperter» direkte fra SSD-lagring.

Kilde: https://github.com/prabanta-dev/janas