跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

思考到答案之后:评估大型推理模型中的有害过度思考

文章摘要

一项新研究区分了“冗长但无害”的过度思考与“破坏已有正确轨迹”的有害过度思考,发现模型在首次得到正确答案后继续推理可能导致准确率下降,而提前停止策略只能减少前者,无法防止后者。

来源arXiv AI作者: Simone Caldarella, Davide Talon, Rahaf Aljundi, Elisa Ricci, Massimiliano Mancini
思考到答案之后:评估大型推理模型中的有害过度思考
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

大型推理模型(LRM)通过增加测试时计算量来生成显式的中间推理轨迹,以此提升性能。然而,“推理越长越有益”这一假设仍未得到充分检验。近期有证据表明,额外推理可能让模型陷入过度思考。那么一个关键问题浮现出来:当模型已经得到正确答案后,继续推理究竟是在完善解法,还是反而偏离正解?

为研究正确性之后的动态变化,Simone Caldarella 等五位作者在 2026 年 6 月 1 日提交至 arXiv 的论文中提出了一个前缀级轨迹评估协议。该协议以“推理充分性”为基础,定义了模型首次生成正确答案所需的最小推理预算。借助这一框架,研究者得以区分两类过度思考:一类是冗长的过度思考,即额外推理虽属冗余但无害;另一类是有害的过度思考,即持续推理会破坏原本已经正确的轨迹。

研究从多模态基准开始。作者发现,许多被视为“推理密集型”的实例实际上只需要极少的推理量。更值得注意的是,若在首次出现正确前缀时就停止推理,准确率相比标准推理可提升最高 21%。这一结果说明,当前模型的局限不仅在于推理能力本身,还在于它们无法在恰当的时刻停下来。换句话说,模型有时“想得太多”,反而把已经到手的正确答案想错了。

研究者进一步检验了常见的效率策略。提前停止等方法可以显著减少冗长的过度思考,降幅最高达 50%,但它们无法缓解有害的过度思考。对失败案例的分析显示,正确性偏离主要由两种因素驱动:逻辑漂移和视觉重解释。逻辑漂移指推理链条在后续步骤中偏离原有逻辑;视觉重解释则指模型对图像信息的重新解读导致结论改变。

最后,作者将发现推广到纯语言推理基准,表明有害过度思考是一个更广泛的可靠性风险,而不仅限于多模态场景。论文代码已公开在项目页面 simonecaldarella.github.io/thinking-past-the-answer 上。该工作提示,未来的推理模型设计需要同时关注“该想多久”和“该何时停”两个问题。

展开要点与分析

文章情报

投资人进阶

要点

  • 论文提出前缀级轨迹评估协议,以“推理充分性”定义首次得到正确答案所需的最小推理预算。
  • 在首个正确前缀处停止推理,可使准确率相对标准推理最高提升21%。
  • 逻辑漂移和视觉重解释是正确性偏离的主要驱动因素。
  • 提前停止等效率策略可减少高达50%的冗长过度思考,但对有害过度思考无效。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。