En akademisk artikkel presenterer en metode for å akselerere inferens av store fundamentmodeller på GPU-er med begrenset minnekapasitet, ved bruk av «block low-rank»-teknikker.

Kilde: https://dl.acm.org/doi/full/10.1145/3806645.3807580