En utviklingsserie forklarer hvordan man bygger en av de mest komplekse GPU-kjernene på den nyeste maskinvaren, steg for steg gjennom 60 diagrammer. Resultatet når 94,4 prosent av ytelsen til FlashAttention-4.

Kilde: https://iaroslavelistratov.github.io/b200-attention/