Jared Siegel argumenterer for at man bør kjøre sin egen LLM-proxy for å ha innsyn i trafikken. Innlegget er kort og går rett på sak.
Kilde: https://jrdsgl.com/if-you-dont-run-your-own-llm-proxy-how-the-fuck-do-you-even-know-whats-going-on/
Jared Siegel argumenterer for at man bør kjøre sin egen LLM-proxy for å ha innsyn i trafikken. Innlegget er kort og går rett på sak.
Kilde: https://jrdsgl.com/if-you-dont-run-your-own-llm-proxy-how-the-fuck-do-you-even-know-whats-going-on/