大型语言模型(LLM)的训练目标决定了它们的输出倾向:它们被优化为生成在分布上看起来合理的后续文本,而不是显式核验所生成的命题是否确实由源文档所蕴含。这种归纳偏置让模型具备泛化能力,但它本身并不编码“回答相对于参考信息是否有据可依”这一信息。也就是说,模型可以流畅地写出貌似正确的句子,却无法保证这些句子能被参考材料所支持。这一问题在临床决策支持等对事实正确性要求极为严格的领域尤为突出,因为在这些场景中,任何未经依据的表述都可能带来切实风险。
针对这一挑战,Paul Landes 与另外三位作者在 2026 年 5 月 21 日提交到 arXiv 的论文《Graph Alignment Topology as an Inductive Bias for Grounding Detection》中提出了一种新思路。论文摘要指出,现有的幻觉检测方法通常通过检索增强、自一致性(self-consistency)或声明验证(claim verification)来提升事实性,但这些方法一般不直接在“对齐拓扑”上学习。换言之,它们关注的是如何补充证据或如何让模型多次作答以取得一致,而没有把参考信息与模型输出之间的对齐结构本身当作一种可学习的信号。
该研究的核心做法是:在参考信息与 LLM 输出之间构造对齐的二部图(aligned bipartite graph),然后训练一个图神经网络(GNN),通过消息传递机制来建模这种对齐结构。这样,对齐关系所形成的拓扑就被当作一种归纳偏置引入检测模型,使模型能够直接学习“输出与参考之间如何对应、对应得是否充分”这类结构性线索,而不仅仅依赖文本表面的相似度或外部检索结果。
作者报告,该方法在四个不同类型的幻觉检测与问答数据集上取得了最先进的结果,并且优于所有参与比较的方法,其中包括 GPT-4o 等基础大模型。论文归类于计算与语言(cs.CL)以及人工智能(cs.AI)方向,编号为 arXiv:2605.22963,DOI 为 10.48550/arXiv.2605.22963,当前版本为 v1,提交时间为 2026 年 5 月 21 日 18:49:32 UTC,全文约 651 KB。
需要说明的是,本文档为 arXiv 公告页,主要包含标题、摘要、分类信息、提交历史与访问链接等元数据,并未展开实验设置、数据集细节或消融分析。因此,上述性能结论来自作者摘要中的陈述;具体的评测协议、基线配置以及方法在不同领域间的泛化表现,仍需查阅论文全文加以核实。