AgentKGV: 面向知識圖譜事實驗證的智慧LLM-RAG框架與兩階段訓練
知識圖譜自動構建中常含事實錯誤,AgentKGV提出結合動態路由與迭代查詢重寫的智慧LLM-RAG框架,並透過兩階段訓練(基於蒸餾的SFT和軌跡級GRPO)提升準確性與成本效率。在T-REx基準上,宏F1比單輪RAG提升14.9個百分點,搜尋呼叫次數減半。
知識圖譜(KG)作為結構化知識表示的核心技術,廣泛應用於搜尋引擎、問答系統和推薦系統等領域。然而,現代知識圖譜往往透過自動化的管道從大規模語料庫中構建,這一過程不可避免地引入噪聲和抽取錯誤,導致圖譜中包含大量事實性錯誤。如何在工業規模下高效且可靠地驗證這些錯誤,成為制約知識圖譜落地的關鍵挑戰之一。
針對上述問題,來自學術界的研究團隊提出了AgentKGV——一種面向知識圖譜事實驗證的智慧LLM-RAG框架。該框架的核心創新在於整合了動態路由機制和迭代查詢重寫技術。動態路由能夠根據查詢的複雜程度自適應地選擇處理路徑,而迭代查詢重寫則透過多輪細化解碼階段檢索中的表面形式不匹配問題。例如,當查詢中出現的實體或關係在文件中表述方式不同時,AgentKGV能夠逐步調整查詢語義,從而有效召回相關證據。
為了將該框架推向實際工業部署,研究團隊進一步設計了兩階段訓練策略。第一階段是基於蒸餾的逐輪監督微調(SFT):利用一個大容量教師模型(如GPT-4或Llama-3)的推理能力,透過蒸餾方式遷移至一個小型學生模型,使其能夠穩定地執行查詢重寫和事實推理。第二階段是軌跡級群體相對策略最佳化(GRPO):在搜尋軌跡層面最佳化檢索策略,透過強化學習減少大規模檢索過程中的不必要呼叫,從而降低計算成本。
實驗環節在開放域T-REx基準的長尾謂詞分割上進行驗證。結果顯示,僅應用AgentKGV框架(無訓練)即可相比單輪RAG基線在宏F1上提升5.5個百分點;而引入兩階段訓練後,這一提升幅度進一步擴大至9.4個百分點,累計提升達14.9個百分點。值得注意的是,GRPO策略在確保準確率不下降的前提下,將平均搜尋呼叫次數從3.24次削減至1.63次,實現了顯著的成本收益。
這一成果不僅為知識圖譜的真實驗證提供了高效且經濟的解決方案,也展示了在資源受限場景下,透過蒸餾和強化學習最佳化檢索增強生成模型的應用潛力。未來,該框架有望在電商知識圖譜、醫療知識庫等垂直領域得到廣泛部署。