跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

迈向LLM赋能智能体工作流的可靠设计:优化延迟-可靠性-成本权衡

文章摘要

该论文分析了由LLM和非LLM模块组成的智能体工作流中延迟、可靠性和成本之间的根本权衡,提出了基于参数化指数可靠性函数的性能模型,并为顺序工作流设计给出了注水式token分配策略和基于影子价格的最优可靠性刻画。

来源arXiv AI作者: Ya-Ting Yang, Quanyan Zhu
迈向LLM赋能智能体工作流的可靠设计:优化延迟-可靠性-成本权衡
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

这篇由 Ya-Ting Yang 与 Quanyan Zhu 撰写的论文《Toward Reliable Design of LLM-Enabled Agentic Workflows: Optimizing Latency-Reliability-Cost Tradeoffs》于 2026 年 4 月 21 日提交至 arXiv,编号为 arXiv:2605.23929v1,属于人工智能(cs.AI)与软件工程(cs.SE)交叉方向的新投稿。论文关注的核心问题是:现代 AI 系统越来越多地依赖由多个相互协作的代理(agent)组成的工作流,其中一部分代理由大语言模型驱动,另一部分则由传统计算模块承担。在这种混合架构下,系统设计者需要在延迟、可靠性与成本之间做出权衡,而论文正是对这一基本权衡展开系统分析。

作者首先为 LLM 代理与非 LLM 代理分别建立了性能模型,用以刻画“计算投入”与“输出质量”之间的关系。对于 LLM 代理,模型特别纳入了推理 token 与输出 token 的影响,并采用参数化的指数型可靠性函数来描述 token 投入如何转化为任务成功的概率。这一建模方式的意义在于,它把通常被视为经验直觉的“多给模型一些推理预算会更好”转化为可量化、可优化的数学形式,使工作流设计从试错走向可分析。

在此基础上,论文研究了在延迟约束与成本约束下如何设计顺序式工作流。所谓顺序工作流,是指多个代理依次执行、前一步的输出作为后一步的输入,因而整体可靠性与各环节的 token 分配紧密相关。作者给出的主要结果包括一种“注水式”(water-filling)的 token 分配策略,以及用影子价格(shadow prices)来刻画最优工作流可靠性的方法。注水策略通常出现在资源分配问题中,其直觉是把有限的预算优先投向边际收益最高的环节;而影子价格则揭示了在约束条件略微放松时,整体可靠性能够提升多少,从而为工程实践中的资源调度提供定价式的参考。

从研究定位看,这项工作并非提出新的模型架构,而是为 LLM 代理工作流提供了一套设计理论与优化框架。它将延迟、可靠性和成本三者的关系形式化,并给出了可解释的最优性条件,这对于需要在真实生产环境中部署多代理流水线的团队具有直接参考价值。论文还提供了 PDF、实验性 HTML 以及 TeX 源码等多种获取方式,并通过 DOI(https://doi.org/10.48550/arXiv.2605.23929)由 DataCite 分配。需要注意的是,作为一篇新投稿,其结论仍建立在作者所设定的参数化模型之上,实际系统中的可靠性函数是否严格符合指数形式,仍需后续实证工作检验。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出同时适用于LLM和非LLM智能体的性能模型,用参数化指数可靠性函数刻画推理与输出token对质量的影响。
  • 研究延迟和成本约束下的顺序工作流设计,推导出注水式token分配策略。
  • 以影子价格刻画工作流最优可靠性,为多智能体系统设计提供理论依据。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。