Mate Security的Asaf Wiener让每个后端工程师都成为模型路由器。他是对的。
Mate Security的CEO Asaf Wiener在面对高昂的AI推理成本时,没有选择简单削减开支,而是彻底重构了公司的技术结构,让每个后端工程师都负责自己工作负载的模型选择、评估和路由。这种将成本可见性下放到工作负载所有者的做法,使公司在保持质量的同时优化成本,甚至发现开源模型在某些任务上优于前沿API。Wiener强调,AI原生公司的竞争优势在于能够迅速切换到当天最好的模型,而这需要一种不接受“AI拒绝者”的快速执行文化。
Mate Security的Asaf Wiener让每个后端工程师都成为模型路由器。他是对的。
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。