跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

保形思维:在算力预算下对推理进行风险控制

文章摘要

该论文将推理 LLM 的 token 预算与自适应停止阈值设置视为风险控制问题:在给定目标错误率和验证集的前提下,用无分布假设的风险控制方法同时确定“置信即停”的上阈值和提前放弃不可解实例的参数化下阈值,从而在满足用户风险目标的同时降低计算开销。

保形思维:在算力预算下对推理进行风险控制
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

推理型大语言模型(Reasoning LLM)让测试时扩展(test-time scaling)成为可能:随着 token 预算增加,数据集层面的准确率持续提升,这促使研究者转向自适应推理,即在额外计算能够提升可靠性时就多花 token,在继续计算难以带来收益时就提前停止。然而,如何设定 token 预算,以及如何确定自适应推理的阈值,在实践中并不容易,其背后是风险与准确率之间的根本权衡。约翰斯·霍普金斯大学(Johns Hopkins University)的研究团队在 2026 年 7 月发表的论文《Conformal Thinking: Risk Control for Reasoning on a Compute Budget》中,把预算设定问题重新表述为风险控制问题:在尽量降低计算量的同时,将错误率限制在目标水平以内。

该框架引入两种停止机制。第一种是上阈值(upper threshold),当模型对答案足够自信时停止推理;这样做可以节省计算,但也存在输出错误结果的风险。第二种是论文提出的参数化下阈值(parametric lower threshold),用于在遇到明显无法解决的实例时提前终止,从而避免在注定失败的样本上浪费算力,代价则是可能过早停止本可解决的问题。上阈值对应的是“自信但可能出错”的风险,下阈值对应的是“提前放弃”的风险,二者共同构成了完整的风险刻画。

关键在于如何设置这两个阈值。作者提出,给定一个目标风险水平和一组验证集,就可以借助无分布假设的风险控制(distribution-free risk control)方法,最优地确定这些停止机制的具体参数。所谓无分布假设,意味着该方法不依赖于对模型输出分布的强假设,而是在有限样本条件下给出具有统计保证的风险控制,这使得阈值设定不再是凭经验调参,而是有明确风险目标的系统化流程。

在实验部分,作者在多种推理任务和多个推理模型上验证了该方法的有效性。结果显示,这套风险控制方法能够带来实际的计算效率收益,其中下阈值以及集成式停止机制(ensemble stopping mechanisms)对节省计算的贡献尤为明显,同时最终错误率仍能保持在用户指定的风险目标之内。换言之,用户可以先声明自己能够容忍多大的错误率,再由框架自动换算出相应的预算与停止策略,而不必手动猜测 token 上限和自适应阈值。

论文的合著者包括 Xi Wang、Anushri Suresh、Alvin Zhang、Rishi More、William Jurayj、Benjamin Van Durme、Mehrdad Farajtabar、Daniel Khashabi 和 Eric Nalisnick,其中前四位为共同第一作者,研究机构为约翰斯·霍普金斯大学。作者已公开代码,地址为 https://github.com/xidulu/reasoning_risk_control/ ,便于社区复现与进一步研究。这项工作把推理预算的工程调参问题转化为带有统计保证的风险控制问题,为在有限算力下部署推理模型提供了一种可解释、可验证的配置思路。

展开要点与分析

文章情报

工程师进阶

要点

  • 将 token 预算与自适应推理阈值的设定重新表述为风险控制问题,在最小化算力的同时限制错误率。
  • 引入上阈值(模型自信时停止推理)和新颖的参数化下阈值(提前终止不可解实例)。
  • 借助验证集和目标风险,使用无分布假设的风险控制来最优地确定这些停止机制。
  • 在多种推理任务与模型上的实验显示,下阈值和集成停止机制带来了计算效率提升,同时遵守指定的风险目标。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。