AI网关基准测试：GoModel vs LiteLLM vs Portkey vs Bifrost

本文对比了四种AI网关在请求路径上的运行时开销，包括延迟、吞吐量、内存、CPU、冷启动时间和镜像大小。测试结果显示，GoModel在几乎所有指标上表现最优，而LiteLLM则因资源消耗巨大而成为短板。文章还讨论了网关的开源中立性和对本地模型部署的影响。