AI News HubLIVE
サイト内リライト2 分で読了

AgentKGV: 知識グラフの事実検証のためのエージェンティックLLM-RAGフレームワークと二段階訓練

知識グラフ(KG)は自動構築時に事実誤差を含むことが多く、AgentKGVは動的ルーティングと反復クエリ書き換えを統合したエージェンティックLLM-RAGフレームワークを提案し、蒸留ベースのSFTと軌跡レベルGRPOによる二段階訓練で精度とコスト効率を向上。T-RExベンチマークで単一ターンRAGよりマクロF1が14.9ポイント向上、検索呼び出し数は半減。

ソースarXiv Computational Linguistics著者: Yumin Heo, Hyeon-gu Lee, Sumin Seo, Youngjoong Ko

知識グラフ(KG)は、検索エンジンや質問応答システムなどで広く利用される構造化知識表現の中核技術である。しかし、現代のKGは大規模コーパスから自動構築されることが多く、その過程でノイズの多いソースや抽出失敗により事実誤差が避けられない。産業規模でこれらの誤差を確実に検証することは、KGの実用化における重要な課題である。

この問題に取り組むため、研究チームはAgentKGVを提案した。これは、知識グラフ事実検証のためのエージェンティックLLM-RAGフレームワークであり、動的ルーティングと反復クエリ書き換えを統合する。動的ルーティングはクエリの複雑さに応じて処理経路を適応的に選択し、反復クエリ書き換えは文書レベルの検索における表面形式の不一致(例:クエリ中のエンティティが文書内で異なる表現で出現する場合)を複数回の書き換えで解決する。

このフレームワークを産業展開に適したものにするため、二段階訓練戦略が導入された。第一段階はターンレベルの蒸留ベースSFTである。大規模教師モデル(GPT-4やLlama-3など)の推論能力を小型モデルに蒸留し、安定したクエリ書き換えと推論を実現する。第二段階は軌跡レベルGRPOであり、検索ポリシーを強化学習で最適化し、大規模検索における不要な呼び出しを削減して計算コストを低減する。

実験はオープンドメインのT-RExベンチマークのロングテール述語分割で実施された。結果として、AgentKGVフレームワーク単体で単一ターンRAGに対してマクロF1が5.5ポイント向上し、二段階訓練によりさらに9.4ポイント向上、合計14.9ポイントの改善を達成した。GRPOは精度を維持したまま平均検索呼び出し数を3.24回から1.63回に半減させた。

この成果は、KG事実検証の効率的かつ経済的なソリューションを提供するとともに、蒸留と強化学習による検索拡張生成モデルの最適化がリソース制約のある環境でも有効であることを示している。今後、電子商取引KGや医療知識ベースなど、さまざまな垂直分野での展開が期待される。