AgentKGV: 面向知识图谱事实验证的智能LLM-RAG框架与两阶段训练
知识图谱自动构建中常含事实错误,AgentKGV提出结合动态路由与迭代查询重写的智能LLM-RAG框架,并通过两阶段训练(基于蒸馏的SFT和轨迹级GRPO)提升准确性与成本效率。在T-REx基准上,宏F1比单轮RAG提升14.9个百分点,搜索调用次数减半。
知识图谱(KG)作为结构化知识表示的核心技术,广泛应用于搜索引擎、问答系统和推荐系统等领域。然而,现代知识图谱往往通过自动化的管道从大规模语料库中构建,这一过程不可避免地引入噪声和抽取错误,导致图谱中包含大量事实性错误。如何在工业规模下高效且可靠地验证这些错误,成为制约知识图谱落地的关键挑战之一。
针对上述问题,来自学术界的研究团队提出了AgentKGV——一种面向知识图谱事实验证的智能LLM-RAG框架。该框架的核心创新在于整合了动态路由机制和迭代查询重写技术。动态路由能够根据查询的复杂程度自适应地选择处理路径,而迭代查询重写则通过多轮细化解码阶段检索中的表面形式不匹配问题。例如,当查询中出现的实体或关系在文档中表述方式不同时,AgentKGV能够逐步调整查询语义,从而有效召回相关证据。
为了将该框架推向实际工业部署,研究团队进一步设计了两阶段训练策略。第一阶段是基于蒸馏的逐轮监督微调(SFT):利用一个大容量教师模型(如GPT-4或Llama-3)的推理能力,通过蒸馏方式迁移至一个小型学生模型,使其能够稳定地执行查询重写和事实推理。第二阶段是轨迹级群体相对策略优化(GRPO):在搜索轨迹层面优化检索策略,通过强化学习减少大规模检索过程中的不必要调用,从而降低计算成本。
实验环节在开放域T-REx基准的长尾谓词分割上进行验证。结果显示,仅应用AgentKGV框架(无训练)即可相比单轮RAG基线在宏F1上提升5.5个百分点;而引入两阶段训练后,这一提升幅度进一步扩大至9.4个百分点,累计提升达14.9个百分点。值得注意的是,GRPO策略在确保准确率不下降的前提下,将平均搜索调用次数从3.24次削减至1.63次,实现了显著的成本收益。
这一成果不仅为知识图谱的真实验证提供了高效且经济的解决方案,也展示了在资源受限场景下,通过蒸馏和强化学习优化检索增强生成模型的应用潜力。未来,该框架有望在电商知识图谱、医疗知识库等垂直领域得到广泛部署。