Manticore Search har gjennomgått en omfattende ombygging av ONNX-integrasjonen sin og oppnådde 14 ganger raskere generering av embeddings. Innlegget går teknisk til verks og forklarer hva som ble endret og hvorfor det ga så stor effekt.

Kilde: https://manticoresearch.com/blog/onnx-embeddings-speedup/