跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

递归语义分歧:衡量并提升LLM智能体运行一致性的新指标

文章摘要

该论文提出递归语义分歧(RSD)——一种无监督、轨迹级的一致性度量,借鉴强化学习中的双模拟度量,用自然语言推理检测同一智能体从相同状态出发两次独立rollout之间的语义分歧,并将其递归定义于未来状态之上。将其作为微调奖励信号后,tau2-bench上任务进度的波动从132%降至91%,toolsandbox上从90%降至44%,同时提升多个基准与模型规模下的性能,且无需真实标签。

来源arXiv Computational Linguistics作者: Harshavardhan Abichandani, Penny Chong, Atin Ghosh, Daniel Dahlmeier
递归语义分歧:衡量并提升LLM智能体运行一致性的新指标
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

具备工具调用能力的大语言模型(LLM)智能体,往往会从完全相同的初始状态出发、在互相独立的多次运行中表现出不一致的行为:它们可能调用不同的工具、给出互相矛盾的输出,或者走向截然不同的策略路径。这类变异性会随着时间不断累积,从而严重削弱实际部署中的可靠性。也正因如此,如何评估并抑制智能体的这种“漂移”,成为构建可信 agent 系统的关键问题之一。

现有评测体系并没有很好地解决这一点。主流指标多以任务完成度为基础,衡量“任务是否做对”,而不是“行为是否稳定”,因此无法刻画同一任务多次执行之间的一致性差异。而在行为分析方面,研究者通常要么在 token 层面观察概率分布,要么在单轮回复层面对语义输出做聚类,但这两类做法都看不到不一致性如何在轨迹的后续轮次中逐层传播与放大。

针对这一空白,论文提出了递归语义分歧(Recursive Semantic Divergence,RSD)。这是一种无监督的轨迹级一致性度量,其思想借鉴了强化学习中的双模拟度量(bisimulation metrics)。具体而言,RSD 衡量的是同一个智能体从同一状态出发进行两次独立 rollout 时,二者之间期望累积的语义不一致程度,并借助自然语言推理(NLI)来判断两段表述在逻辑上是否相互矛盾,而不仅仅是字面上是否相似。

RSD 的定义在“未来状态”上递归展开:当前状态的分歧,不仅取决于当下的输出差异,还取决于从当前状态走下去之后,未来各步可能出现多大程度的不一致。为了使其可计算,作者用一个神经网络来近似该度量,训练数据来自独立 rollout 样本。值得注意的是,这一学习得到的度量可以在不需要跑完整条轨迹的情况下,针对每个轮次给出当前状态的一致性评分,并预测未来的分歧程度,从而为在线评测和训练反馈提供了实用的工具。

在应用层面,RSD 可以直接作为微调时的奖励信号使用。实验结果显示,在 tau2-bench 上,任务进度的波动从 132% 降到 91%;在 toolsandbox 上,波动从 90% 大幅降至 44%。与此同时,该方法在多个基准测试、不同模型规模下都带来了性能提升,说明一致性奖励并未以牺牲任务效果为代价,反而有助于模型更稳定、更高效地推进任务。

论文还指出,把 RSD 作为附加奖励信号进行训练,可以在不依赖标准答案(ground-truth 标签)的情况下,取得与监督微调相当的性能,同时方差显著更低。这意味着该方法在标注成本高昂或难以获得高质量标签的场景中尤其具有吸引力,也为 agent 的自我改进与对齐提供了新的无监督思路。

该论文由 Harshavardhan Abichandani 等人完成,已被 NeurIPS 2026 接收为会议论文,作者已在仓库中公开源码,便于社区复现与进一步研究。论文于 2026 年 10 月 8 日提交至 arXiv(arXiv:2610.33012),隶属于计算与语言(cs.CL)分类,并涉及人工智能(cs.AI)与机器学习(cs.LG)。

展开要点与分析

文章情报

工程师进阶

要点

  • RSD用自然语言推理衡量agent从同一状态两次rollout的累计语义分歧,可提前预估未来走向
  • 作为奖励信号微调可显著降低任务进度波动(tau2-bench 132%→91%,toolsandbox 90%→44%)
  • 无需ground-truth标签,性能可匹敌监督微调,方差更低
  • 论文被NeurIPS 2026接收,代码已开源

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。