面向开放问答校准评估的语义采样框架

在大语言模型（LLM）广泛应用于医疗、法律等高风险领域的背景下，模型的校准能力——即预测置信度与实际准确率的一致性——变得至关重要。然而，现有校准评估方法在开放问答（Open-ended QA）这一最常见部署场景中存在明显不足：基于logit的方法需要受限输出格式和内部概率，口头置信度常过于自信，而采样方法依赖任务特定的提取规则且缺乏清晰的有限样本目标。为解决这一问题，来自多所机构的研究人员提出了Sem-ECE（语义采样期望校准误差）框架。该框架从模型中采样多个答案，将其聚类为语义类别，然后以各类别的出现频率作为置信度估计。具体而言，Sem-ECE包含两个估计量：Sem1-ECE利用同一样本进行自一致性打分，而Sem2-ECE则采用留出法，将答案选择与置信度评估分离。理论分析证明，两个估计量都是渐近无偏的，并且对于简单问题两者结果一致，但对于困难问题Sem2-ECE的校准误差更小，因此两者之间的差距可作为问题难度的诊断指标。研究团队在五个领先的商业LLM上进行了实验，涵盖三个开放问答基准测试。实验结果表明，Sem-ECE在评估校准方面优于口头置信度和现有的采样方法，同时能在无法获取内部概率时有效补充基于logit的评估方式。这一工作为LLM在开放场景下的可靠部署提供了重要的评估工具。此外，该框架的语义聚类过程不依赖于任务特定的格式，具有较好的通用性，未来可扩展至更多类型的生成任务。