跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

语言模型何时应信任自己?同模型自验证作为条件置信信号

文章摘要

该研究评估了同模型自验证作为选择性预测置信信号的有效性,发现在不同任务和模型上表现差异显著,不能作为通用不确定性估计器。

来源arXiv Computational Linguistics作者: Aditya Ajay Phalod
语言模型何时应信任自己?同模型自验证作为条件置信信号
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

一篇新论文探讨了语言模型何时应该信任自己的输出,提出同模型自验证作为条件置信信号的概念。该研究由Aditya Ajay Phalod完成,于2026年4月8日提交至arXiv,论文编号2605.02915。论文共30页,包含13张图表和8个表格,相关代码已在GitHub上开源。

研究团队评估了同模型自验证在选择性预测中的有效性。这种方法要求模型审核自己预测的答案,看似是一种合理的置信信号,但一旦与强似然基线进行比较,其实用价值就变得清晰。作者将自验证与两种基线方法(LL-AVG和LL-SUM)在ARC-Challenge和TruthfulQA-MC基准测试上进行了对比,涵盖多种模型系列(Phi-2、Qwen、DeepSeek-R1-Distill-8B等)、规模及提示变体。

实验不仅测量了正确性排名,还通过AURC和操作点分析评估了弃权质量。结果呈现出强烈的任务和模型依赖性。在ARC-Challenge上,自验证相比LL-AVG在Phi-2和Qwen模型上有显著改进,其中Qwen-7B的提升最大。然而,在TruthfulQA-MC上,信号可靠性较低:较小模型变得对提示敏感,DeepSeek-R1-Distill-8B相比LL-AVG性能下降,而LL-SUM通常仍是更强的实际基线。

因此,研究者不建议将自验证作为通用不确定性估计器。在该设定下,它更应被理解为一种条件置信信号,其价值取决于任务类型、模型系列、提示表述,以及最关键的是它需要击败的基线。这一发现对于实际部署具有重要启示:开发者需要根据具体场景谨慎选择置信信号,而不能盲目依赖自验证机制。

展开要点与分析

文章情报

工程师进阶

要点

  • 在ARC-Challenge任务中,自验证对Phi-2和Qwen模型有实质改进,Qwen-7B提升最大。
  • 在TruthfulQA-MC任务中,自验证信号不可靠,小模型对提示敏感,DeepSeek-R1-Distill-8B甚至退化。
  • 研究强调自验证的价值依赖于任务类型、模型系列、提示表述和基线方法。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。