基于结构化专家判断的多LLM系统不确定性感知信任估计

大型语言模型（LLM）集成系统通过组合多个模型的预测来提高可靠性，这种策略在自然语言处理任务中应用日益广泛。然而，现有的聚合方法（如平均、多数投票）通常假设所有模型具有同等的可信度，忽略了它们在不确定性量化质量上的显著差异。这一假设在处理异构LLM（如不同规模、训练数据和架构的模型）时存在明显缺陷，因为不同LLM的可信度和能力差异显著，简单的聚合容易受到不可靠甚至对抗性专家的影响，导致整体性能下降。针对这一局限，来自Jiawei Zheng和Jiazhen Zhang的研究团队将多LLM聚合问题形式化为不确定性感知的信任估计问题。他们从决策理论中引入结构化专家判断（SEJ）方法，利用上下文感知的校准问题来估计专家可靠性，具体基于其概率预测的质量。核心创新是采用Cooke式对数加权，该方法对过度自信的错误预测施加惩罚，同时倾向于经过良好校准的专家，从而动态调整各LLM在聚合中的权重。研究团队在MMLU和MMLU-Pro数据集上进行了全面的实验评估，涵盖了同质、异质以及受污染的专家面板（即包含故意提供错误答案的模型）。实验结果显示，在专家同质的情况下（如使用相同架构的模型），各种聚合方法的性能相似；但在专家异质性和污染存在的情况下，Cooke加权方法展现出关键价值，其准确性与可靠性的平衡优于传统方法，并且对不可靠专家具有鲁棒性。这项研究于2026年7月10日提交至arXiv（编号2607.20529），属于机器学习（cs.LG）和人工智能（cs.AI）领域。这些发现表明，多LLM聚合不仅需要简单组合预测结果，更需要在不确定性环境下对信任进行校准。该工作为构建更可靠、更鲁棒的多模型集成系统提供了新的理论基础和实践指导，尤其在需要高可靠性的应用场景（如医疗诊断、法律分析等）中具有重要潜力。