跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

量化上下文学习中的偶然不确定性,实现LLM预测置信度的稳健度量

文章摘要

本文提出自我函数向量(self-function vectors)方法,基于贝叶斯视角与上下文学习的机制可解释性,直接从模型内部表示估计偶然不确定性,避免依赖脆弱的输入或解码操作。作者还建立了首个严格评估协议,通过控制数据操作精确量化偶然不确定性并与认知不确定性分离,在合成任务和真实数据集上验证了该方法优于现有替代方案,并可应用于幻觉检测等可信应用。

来源arXiv Computational Linguistics作者: Jinseok Chung, Minkyoung Song, Hyunji Jung, Namhoon Lee
量化上下文学习中的偶然不确定性,实现LLM预测置信度的稳健度量
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

上下文学习(In-Context Learning, ICL)让大语言模型(LLM)仅凭少量示例就能适应新任务,但其可靠性始终令人担忧:预测结果对提示设计以及模型理解上下文的能力高度敏感,这使得人们难以判断失败究竟源于数据本身的特性,还是模型能力的局限。在这一背景下,对不确定性进行分解——即将偶然不确定性(aleatoric uncertainty)与认知不确定性(epistemic uncertainty)区分开来——尤为关键。然而,现有方法大多是为标准生成任务设计的,无法捕捉 ICL 所特有的动态机制。

针对这一问题,Jinseok Chung 等四位作者在 2026 年 4 月 28 日提交的论文《Quantifying Aleatoric Uncertainty of In-Context Learning for Robust Measure of LLM Prediction Confidence》中提出了新方案。该论文已被 ACL 2026 接收,属于计算与语言(cs.CL)方向,同时也涉及机器学习(cs.LG)。研究团队引入了“自函数向量”(self-function vectors)这一概念,它建立在贝叶斯视角与 ICL 机制可解释性之上。这些向量利用模型的内部表示来建模在上下文提示过程中学到的潜在概念,从而能够在贝叶斯框架内直接估计偶然不确定性,并避免了依赖脆弱的输入扰动或解码操作。

作者指出,由于该领域缺乏既定的基准和合适的评估协议,他们同时提出了首个严格的评估协议。该协议通过受控方式对数据进行操纵,从而精确地量化偶然不确定性,并将其与认知不确定性分离。这一评估框架首先建立在合成任务之上,用于概念层面的开发与验证,随后扩展到真实世界数据集。

实验结果表明,在合成任务与真实数据的双重检验下,所提出的方法能够比现有替代方法更可靠地度量 ICL 场景下 LLM 预测的不确定性。此外,研究还展示了该方法可作为面向可信应用(trustworthy-related applications)的实用工具,例如幻觉检测(hallucination detection)。

作者总结认为,这些发现为将不确定性的定量视角与对模型行为的机制性理解相连接开辟了新的方向。论文全文可通过 arXiv 获取,提交版本为 v1,文件大小约 1,668 KB,DOI 为 10.48550/arXiv.2606.19353。

展开要点与分析

文章情报

投资人进阶

要点

  • 提出自我函数向量,利用内部表示建模上下文提示中学到的潜在概念,实现贝叶斯框架下的偶然不确定性直接估计
  • 设计首个严格评估协议,通过控制数据操作将偶然不确定性从认知不确定性中精确分离
  • 在合成任务和真实数据集上,该方法比现有方法更可靠地度量ICL预测不确定性,并可用于幻觉检测
  • 论文被ACL 2026接收,为连接不确定性的定量视角与模型行为的机制理解开辟新方向

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。