上下文学习(In-Context Learning, ICL)让大语言模型(LLM)仅凭少量示例就能适应新任务,但其可靠性始终令人担忧:预测结果对提示设计以及模型理解上下文的能力高度敏感,这使得人们难以判断失败究竟源于数据本身的特性,还是模型能力的局限。在这一背景下,对不确定性进行分解——即将偶然不确定性(aleatoric uncertainty)与认知不确定性(epistemic uncertainty)区分开来——尤为关键。然而,现有方法大多是为标准生成任务设计的,无法捕捉 ICL 所特有的动态机制。
针对这一问题,Jinseok Chung 等四位作者在 2026 年 4 月 28 日提交的论文《Quantifying Aleatoric Uncertainty of In-Context Learning for Robust Measure of LLM Prediction Confidence》中提出了新方案。该论文已被 ACL 2026 接收,属于计算与语言(cs.CL)方向,同时也涉及机器学习(cs.LG)。研究团队引入了“自函数向量”(self-function vectors)这一概念,它建立在贝叶斯视角与 ICL 机制可解释性之上。这些向量利用模型的内部表示来建模在上下文提示过程中学到的潜在概念,从而能够在贝叶斯框架内直接估计偶然不确定性,并避免了依赖脆弱的输入扰动或解码操作。
作者指出,由于该领域缺乏既定的基准和合适的评估协议,他们同时提出了首个严格的评估协议。该协议通过受控方式对数据进行操纵,从而精确地量化偶然不确定性,并将其与认知不确定性分离。这一评估框架首先建立在合成任务之上,用于概念层面的开发与验证,随后扩展到真实世界数据集。
实验结果表明,在合成任务与真实数据的双重检验下,所提出的方法能够比现有替代方法更可靠地度量 ICL 场景下 LLM 预测的不确定性。此外,研究还展示了该方法可作为面向可信应用(trustworthy-related applications)的实用工具,例如幻觉检测(hallucination detection)。
作者总结认为,这些发现为将不确定性的定量视角与对模型行为的机制性理解相连接开辟了新的方向。论文全文可通过 arXiv 获取,提交版本为 v1,文件大小约 1,668 KB,DOI 为 10.48550/arXiv.2606.19353。