在大型语言模型(LLM)快速发展的当下,知识图谱(KG)正被越来越多地用于构建和支撑 LLM 的推理与回答。论文《Knowledge Graphs Quality Assessment in the Era of LLMs: A Conceptual Framework》(LLM 时代的知识图谱质量评估:一个概念框架)由 Elwin Huaman 撰写,于 2026 年 10 月 3 日提交至 arXiv(编号 arXiv:2610.31684v1,学科分类 cs.CL),并计划在 KGSWC 2026 会议上发表。全文共 8 页、含 1 幅图,采用英文写作,提交时文件大小为 1,808 KB,DOI 为 10.48550/arXiv.2610.31684。
文章指出,知识图谱在过去几十年中逐渐普及,如今则越来越多地被大型语言模型直接构建和消费。各类应用依赖知识图谱来提供简洁、完整、准确、忠实、新鲜且可追溯的答案。然而,随之而来的核心问题却常常被忽视:这些知识图谱本身的质量究竟如何?在哪些场景下应当使用某个知识图谱?它能否被信任,用来为 LLM 提供事实依据(grounding)?又该如何对其实施评估?作者认为,如果没有系统的质量评估方法,基于知识图谱的 LLM 应用就可能在不自知的情况下建立在不可靠的数据之上,从而放大错误并削弱答案的可信度。
为回答上述问题,作者对多个领域的文献进行了系统回顾,覆盖数据质量评估、信息质量评估、关联数据(linked data)质量评估、知识图谱质量评估,以及知识图谱与 LLM 交叉领域的研究。在梳理现有工作的基础上,作者将当前最先进的评估框架进一步扩展,整理出一个包含 24 个质量维度(Quality Dimensions,QDs)的目录,并归纳了与之对应的多种质量度量指标(Quality Metrics,QMs)。这些维度与指标共同构成了一个较为完整的知识图谱质量刻画体系,使研究者与工程实践者能够从多个角度审视知识图谱的优劣。
在方法论层面,论文提出了一个通用的质量评估框架。该框架被设计为面向领域或任务可定制的,并强调实用性,旨在帮助不同应用场景下的团队根据自身需求选择合适的质量维度与度量方式,从而对知识图谱开展系统化评估。作者强调,这一框架并非只服务于学术研究,也面向实际系统建设者,帮助他们在将知识图谱接入 LLM 之前,判断其是否足以支撑可信的答案生成。
从更广的背景看,这项工作回应了 LLM 与知识图谱结合过程中日益突出的信任问题:LLM 的输出质量在很大程度上取决于其所依赖的外部知识源,而知识图谱的质量参差不齐。通过提供包含 24 个质量维度的目录与可定制的评估框架,论文为知识图谱的选用、评估与可信度判断提供了概念性基础,也为后续在具体领域和任务中落地质量评估实践指明了方向。