GraphRAGは過剰すぎる。私たちが知識グラフの代わりに採用した方法
標準RAGは単一の事実検索には優れているが、ポートフォリオ質問や計数質問には対応できない。GraphRAGは知識グラフでこのギャップを埋めると期待されたが、コストが高く複雑である。著者は、通常のデータベース、遅延要約、固定オントロジーを用いた「グラフ風RAG」アプローチを提案し、コストと運用負担を大幅に削減しながら同等の利点を実現した。
企業向けAI「カンパニーブレイン」の構築において、GraphRAGはかつて究極の解決策と見なされたが、実際には過剰でコストがかかることが明らかになった。本記事では、標準RAGの限界と、筆者が率いるQX Labsが開発した軽量な代替アプローチ「グラフ風RAG」について詳述する。
標準RAGは、文書をチャンクに分割しベクトル化して意味検索を行う。単一事実質問（例：「2017年の評価覚書の採用率は？」）には有効だが、複数文書にわたる広範な質問（例：「Acme社について知っていることをすべて教えて」）や、コーパス全体の正確なリストを求める質問（例：「評価したフィンテック企業は？」）には対応できない。これらの「ポートフォリオ質問」と「計数質問」にこそ、実際のビジネス価値が潜んでいる。
2024年にMicrosoft Researchが発表したGraphRAGは、文書から知識グラフを事前構築し、エンティティ間の関係をエッジで結び、クラスタごとに要約を生成する。確かにグローバルなセンスメイキングには有効だが、コストは無視できない。Microsoft自身のフォローアップ研究LazyGraphRAGによれば、プレーンベクトルインデックスと比べて構築コストは1000倍、クエリコストも高い。また、エンティティ解決（例：「Acme」「ACME Holdings Inc.」を同一ノードに統合）は依然として困難で、誤ったマージはグラフ全体を汚染する。さらに、グラフデータベースは運用負担を増大させる。
QX Labsの「グラフ風RAG」は、知識グラフの本質的なアイデアを残しつつ、不要な複雑さを排除した。すべてのデータは通常のデータベースと検索インデックスで管理され、エンティティタイプは6種類（企業、人物、製品、プロジェクト、イベント、場所）に固定。関係は共起頻度から自動計算され、グラフデータベースは不要。エンティティ解決は三段階の滝方式を採用：まず完全一致、次に類似検索、最後に小型AIモデルで曖昧なケースを判定。マージは常に可逆で、誤った統合を防止する。要約はクエリが来た時のみ生成する「遅延要約」で、コストをクエリ数に比例させる。
システムはエージェントがツールをルーティングし、単一事実、エンティティ解決、関連エンティティ展開、全域カウントを適切に処理する。評価では、標準RAGが苦手とするポートフォリオ質問と計数質問で明確な改善を示し、単一事実質問では高い性能を維持した。深いマルチホップ推論や型付き関係は提供しないが、ほとんどの企業ユースケースにおいて、GraphRAGの価値を低コストで実現できる。筆者は「GraphRAGは良いアイデアだが、過剰なアーキテクチャをまとっている」と結論づけ、アイデアだけを取り入れることを推奨している。また、システムはセルフサービスで動作し、データソースを接続するだけで利用可能であり、スキーマ設計やデータラベリングは不要である。コストはデータ量ではなくクエリ数に応じて増加するため、動的な文書セットを持つ企業に適している。