AI News HubLIVE
站内改写2 分钟阅读

马具效应:编排设计如何决定企业代理型AI的代币经济

研究表明,通过优化编排层(Harness)而非仅关注模型本身,可显著降低企业代理型AI的运营成本并提升效率。实验显示,使用Writer Agent Harness可使每任务成本降低41%,时间缩短44%,代币消耗减少38%,且质量保持不变或略有提升。

来源arXiv AI作者: Muayad Sayed Ali, Aliaksandra Novik, Anji Boddupally, Artem Yavorskyi, Chris Nickerson, Daniel Rica, Emily DuGranrut, Felix Leung, Garrett Prince, Grace Barnett, Heath Robinson, Hosain Al Ahmad, Jesse Resnick, Juan Carlos Farah, Jyothi Swaroop Meruga, Leonid Kuznetsov, Luke Gorham, Marie Schmoll, Michael Paciullo, Saumya Das, Sharath Sheripally, Tommy Griscom, Mykyta Osadchyi, Neha Mantri, Nick Westrum, Olivia Benowitz, Parikshith Kulkarni, Radik Chernyshov, Rakshith Vasudev, Rohith Nadimpally, Vikas Gangadevi, Waseem AlShikh

基于最近提交至arXiv的一篇研究论文(编号2607.06906),题为“马具效应:编排设计如何决定企业代理型AI的代币经济”,研究团队揭示了在代理型AI开发中一个被忽视的关键因素——编排层(Harness)的设计对成本和性能的巨大影响。

当前,代理型AI开发普遍存在“代币最大化”现象:开发者通过消耗更多代币来提升能力——更长的推理链、更多交互轮次、更大的工具负载、更丰富的上下文重放——导致每任务代币消耗的增长速度超过任务价值本身。虽然每代币价格持续下降,但总支出仍在上升。

研究团队认为,对抗代币最大化的决定性杠杆是“马具”(Harness),即负责组装上下文、暴露工具、序列化交互、委派任务并承载企业可观测性与治理的编排层。为了验证这一假设,他们设计了一项受控实验:在22个固定评估任务上,使用6种不同的基础模型(Claude Sonnet 4.6、Gemini 3.1、Gemini Flash 3.5、Qwen 3.6、GLM 5.1、Palmyra X6),仅改变编排层——比较一个冻结的传统生产循环与Writer Agent Harness。

结果令人瞩目:在模型保持不变的情况下,Harness使每任务混合成本降低41%(从0.21美元降至0.12美元),中位运行时间减少44%(从48秒降至27秒),每任务代币消耗减少38%(从14.2k降至8.8k)。任务完成质量保持持平(从0.78提升至0.81,仅具方向性意义)。效率提升具有模型不变性——所有模型均变得更便宜(降幅33-61%),而质量提升则依赖于模型能力:模型的质量提升与其基准强度几乎完全相关(相关系数r=0.99,n=6),作者将此现象称为“马具杠杆”。

此外,每美元的质量提升达到82%;每百万代币完成的任务数从54.9增至92.0。在该工作负载下,编排层对每任务成本的影响甚至超过了整个模型菜单的跨度。论文还形式化了编排层的代币经济学(包括提示缓存下的有效输入价格),详细描述了实现该效果的六种机制族(从缓存形状约束到失败支出治理),并在相同维度上比较了六种广泛使用的代理系统。

作者最后强调,Harness是唯一一个效率可以跨组织当前和未来运行的每种模型倍增的组件。这一发现对企业在构建和部署代理型AI系统时具有重要指导意义:与其单纯追求更强大的模型,优化编排层设计可能带来更显著的成本和效率优势。