Arbor 是一个由 Neha Prakriya 等八位作者共同提出的多智能体框架,论文于 2026 年 6 月 10 日提交至 arXiv,编号为 2606.12563,归类于人工智能(cs.AI)方向。该框架的核心主张,是把结构化树搜索引入为自主智能体的“认知层”,使智能体能够在大规模、有状态的动作空间中持续搜索与优化,而不是像以往系统那样只在孤立目标上进行无状态评估。
在以往的自主优化系统中,智能体通常面对单一目标,每次评估彼此独立,缺乏跨轮次的记忆与积累。Arbor 则维护一棵显式的搜索树,树上的每个节点都是被打分的假设,这棵搜索树同时充当多个智能体共享的工作记忆。随着每一次测量结果的产生,搜索树会随之演化:失败的尝试被当作诊断信号,用来重塑后续的探索方向;而此前的成功则会改变瓶颈的分布,使搜索范围随之扩展。换言之,系统并非简单地丢弃失败,而是把失败转化为指导下一步行动的信息。
为了验证这一方法,研究团队选择了全栈 LLM 推理优化作为测试场景。这一领域历来需要应用、框架、编译器、内核和硬件等多个层面的工程团队协同努力,才能达到峰值性能,因此对自主系统而言是极具挑战性的目标。Arbor 在该场景中采用了制衡式的双智能体架构:一个 Orchestrator(编排者)智能体负责驱动整个优化过程,将任务委派给覆盖推理栈各环节的领域专家智能体;另一个 Critic(批评者)智能体则通过根因分析、内省和测量验证来保障系统稳定性。两个智能体相互制约,任何一方都无法单方面推动系统前进。
研究团队还将智能体的能力拆分为“硬技能”和“软技能”两类。硬技能指领域专业知识,软技能则指协调协议,决定了各个智能体的贡献如何组合在一起。正是这种拆分,使得系统能够开展完全自主、持续多日的优化行动。
实验结果显示出显著的性能差距。与厂商优化过的基线相比,Arbor 在推理吞吐量与延迟的帕累托改进上最高达到 193%。相比之下,若去掉这套框架、仅使用单个智能体,吞吐量提升在 33% 左右便停滞不前,而且系统在数小时内就会崩溃且无法恢复。此外,Arbor 能够泛化到多代硬件平台,多次运行之间的方差控制在 2 个百分点以内,表明该方法与具体硬件无关,并且具备可复现性。论文全文可通过 arXiv 获取,包括 PDF、实验性 HTML 版本以及 TeX 源码。