Trening av store språkmodeller krever distribuert trening på tusenvis av GPUer, og PyTorch Monarch bringer nå denne funksjonaliteten til AMDs ROCm-plattform.

Kilde: https://pytorch.org/blog/bringing-pytorch-monarch-to-amd-gpus-single-controller-distributed-training-on-rocm/