具备工具调用能力的大语言模型(LLM)智能体,往往会从完全相同的初始状态出发、在互相独立的多次运行中表现出不一致的行为:它们可能调用不同的工具、给出互相矛盾的输出,或者走向截然不同的策略路径。这类变异性会随着时间不断累积,从而严重削弱实际部署中的可靠性。也正因如此,如何评估并抑制智能体的这种“漂移”,成为构建可信 agent 系统的关键问题之一。
现有评测体系并没有很好地解决这一点。主流指标多以任务完成度为基础,衡量“任务是否做对”,而不是“行为是否稳定”,因此无法刻画同一任务多次执行之间的一致性差异。而在行为分析方面,研究者通常要么在 token 层面观察概率分布,要么在单轮回复层面对语义输出做聚类,但这两类做法都看不到不一致性如何在轨迹的后续轮次中逐层传播与放大。
针对这一空白,论文提出了递归语义分歧(Recursive Semantic Divergence,RSD)。这是一种无监督的轨迹级一致性度量,其思想借鉴了强化学习中的双模拟度量(bisimulation metrics)。具体而言,RSD 衡量的是同一个智能体从同一状态出发进行两次独立 rollout 时,二者之间期望累积的语义不一致程度,并借助自然语言推理(NLI)来判断两段表述在逻辑上是否相互矛盾,而不仅仅是字面上是否相似。
RSD 的定义在“未来状态”上递归展开:当前状态的分歧,不仅取决于当下的输出差异,还取决于从当前状态走下去之后,未来各步可能出现多大程度的不一致。为了使其可计算,作者用一个神经网络来近似该度量,训练数据来自独立 rollout 样本。值得注意的是,这一学习得到的度量可以在不需要跑完整条轨迹的情况下,针对每个轮次给出当前状态的一致性评分,并预测未来的分歧程度,从而为在线评测和训练反馈提供了实用的工具。
在应用层面,RSD 可以直接作为微调时的奖励信号使用。实验结果显示,在 tau2-bench 上,任务进度的波动从 132% 降到 91%;在 toolsandbox 上,波动从 90% 大幅降至 44%。与此同时,该方法在多个基准测试、不同模型规模下都带来了性能提升,说明一致性奖励并未以牺牲任务效果为代价,反而有助于模型更稳定、更高效地推进任务。
论文还指出,把 RSD 作为附加奖励信号进行训练,可以在不依赖标准答案(ground-truth 标签)的情况下,取得与监督微调相当的性能,同时方差显著更低。这意味着该方法在标注成本高昂或难以获得高质量标签的场景中尤其具有吸引力,也为 agent 的自我改进与对齐提供了新的无监督思路。
该论文由 Harshavardhan Abichandani 等人完成,已被 NeurIPS 2026 接收为会议论文,作者已在仓库中公开源码,便于社区复现与进一步研究。论文于 2026 年 10 月 8 日提交至 arXiv(arXiv:2610.33012),隶属于计算与语言(cs.CL)分类,并涉及人工智能(cs.AI)与机器学习(cs.LG)。