马具效应:编排设计如何决定企业代理型AI的代币经济
研究表明,通过优化编排层(Harness)而非仅关注模型本身,可显著降低企业代理型AI的运营成本并提升效率。实验显示,使用Writer Agent Harness可使每任务成本降低41%,时间缩短44%,代币消耗减少38%,且质量保持不变或略有提升。
基于最近提交至arXiv的一篇研究论文(编号2607.06906),题为“马具效应:编排设计如何决定企业代理型AI的代币经济”,研究团队揭示了在代理型AI开发中一个被忽视的关键因素——编排层(Harness)的设计对成本和性能的巨大影响。
当前,代理型AI开发普遍存在“代币最大化”现象:开发者通过消耗更多代币来提升能力——更长的推理链、更多交互轮次、更大的工具负载、更丰富的上下文重放——导致每任务代币消耗的增长速度超过任务价值本身。虽然每代币价格持续下降,但总支出仍在上升。
研究团队认为,对抗代币最大化的决定性杠杆是“马具”(Harness),即负责组装上下文、暴露工具、序列化交互、委派任务并承载企业可观测性与治理的编排层。为了验证这一假设,他们设计了一项受控实验:在22个固定评估任务上,使用6种不同的基础模型(Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1、Palmyra X6),仅改变编排层——比较一个冻结的传统生产循环与Writer Agent Harness。
结果令人瞩目:在模型保持不变的情况下,Harness使每任务混合成本降低41%(从0.21美元降至0.12美元),中位运行时间减少44%(从48秒降至27秒),每任务代币消耗减少38%(从14.2k降至8.8k)。任务完成质量保持持平(从0.78提升至0.81,仅具方向性意义)。效率提升具有模型不变性——所有模型均变得更便宜(降幅33-61%),而质量提升则依赖于模型能力:模型的质量提升与其基准强度几乎完全相关(相关系数r=0.99,n=6),作者将此现象称为“马具杠杆”。
此外,每美元的质量提升达到82%;每百万代币完成的任务数从54.9增至92.0。在该工作负载下,编排层对每任务成本的影响甚至超过了整个模型菜单的跨度。论文还形式化了编排层的代币经济学(包括提示缓存下的有效输入价格),详细描述了实现该效果的六种机制族(从缓存形状约束到失败支出治理),并在相同维度上比较了六种广泛使用的代理系统。
作者最后强调,Harness是唯一一个效率可以跨组织当前和未来运行的每种模型倍增的组件。这一发现对企业在构建和部署代理型AI系统时具有重要指导意义:与其单纯追求更强大的模型,优化编排层设计可能带来更显著的成本和效率优势。