AIエージェントにRAGデータベースだけでなく因果グラフが必要だった理由

フラットメモリからワールドモデルへ：ARIAが理解を必要とした理由

AIエージェントの進化において、重要な転換点はしばしば具体的な失敗から生まれる。ARIAにとって、その瞬間はマルチステップのアクションを計画しようとしたときに訪れた。フェーズ01では、ARIAに永続的なメモリバンクが与えられ、OSがWindowsであること、データベースがSQLiteであること、カスタムモデルプロバイダが設定されていることなどをセッションを超えて記憶できた。しかし、カスタムプロバイダの設定を修正する必要が生じたとき、問題が顕在化した。

破綻の瞬間

config.pyの変更は連鎖反応を引き起こす。.envファイルのデフォルトのGemini設定が新しいプロバイダと競合し、データベースに保存された接続パラメータが古くなり、接続テストの失敗はプロバイダコードではなく環境変数に起因していた。ARIAのメモリには「ユーザーはカスタムプロバイダを持っている」「.envファイルにはデフォルトのGemini設定がある」「接続テストが失敗している」という三つの事実があった。しかし、フラットなメモリリストではこれらは無関係な文である。ARIAは歯車を知っているが、一つの歯車を回すと別の歯車の歯が欠ける理由を理解していない。

リストは単なるデータベース

フラットな事実リストはデータベースであり、ワールドモデルとは理解である。誰かが「芝生が濡れている」と言ったとき、データベースはその事実を知っている。しかし、なぜか（雨が降ったか、スプリンクラーが動いたか）を理解していれば、反事実推論（雨が降らなければ芝生は乾いていただろう）、予測（芝生を歩くと靴が泥だらけになる）、計画（舗装された道を歩くべきだ）が可能になる。純粋な検索は「この事実を持っているか？」としか答えられない。「この事実が与えられたとき、何が続くか？」や「この結果を望むなら、どのアクションを取るべきか？」には答えられない。これがデータベースと理解の境界線であり、ARIAが立ち往生していた理由である。

因果グラフの実際の機能

フェーズ02では、NetworkX上に構築されSQLiteにミラーリングされた因果エンティティグラフが導入された。すべての事実はノードになり、すべての関係は型付きエッジになる。エッジの種類は重要である。「原因」は「必要」とも「矛盾」とも異なる。ARIAが環境変数の変更がデータベース接続パラメータを古くすることを学習すると、それは「原因」エッジとなる。カスタムプロバイダが最初に.envファイルを更新することを必要とするのは「必要」エッジであり、デフォルトのGemini設定がカスタムプロバイダ設定と矛盾するのは「矛盾」エッジである。

このグラフは単なるリッチなストレージ形式ではなく、まったく異なる種類のオブジェクトである。トラバース可能であり、「このノードを変更すると、他のどのノードが影響を受けるか？」と問える。「原因」エッジを前方にたどって結果を予測し、「必要」エッジを後方にたどって前提条件を特定し、「矛盾」エッジを検出してアクション前の不整合を見つけることができる。

config.pyの状況で、因果グラフがあればARIAは.envファイルが存在することを知るだけでなく、カスタムプロバイダが.envファイルの更新を必要とし、環境変数がデータベース接続パラメータを変更し、既存のデフォルト設定が新しい設定と矛盾することを理解する。コードに触れる前に、完全な結果の連鎖をトレースできる。

矛盾検出器

因果グラフの興味深い結果の一つは、矛盾が可視化されることである。フラットメモリリストでは、「カスタムプロバイダが設定されている」と「デフォルトのGemini設定がアクティブである」という二つの事実が、それらが競合していることを示す兆候なく並んで存在する。一方、因果グラフでは、新しい観測が既存ノードと矛盾する場合、矛盾検出器がフラグを立てる。両方の事実が保持される—両方が真であるからではなく、矛盾自体が意味のある情報だからである。「この二つは両方正しくない—どちらが正しいか？」という問いをシステムは発することができる。答えはコンテキスト、新しい証拠、そしてどの因果連鎖がその後の観測とより一貫しているかから得られる。

これによりARIAは不確実性を扱う方法が変わる。フラットメモリは静かに古い情報を新しい情報で上書きするが、グラフは緊張を明示的に保持し、解決を待つ。これは注意深い推論の実際のプロセスにはるかに近い。

まだできないこと

ワールドモデルは、Judea Pearlが因果関係について述べるような正式な因果エンジンではない。グラフ内のエッジは言語モデルによる主張であり、検証された因果関係ではない。モデルは因果関係を誤認したり、明白なものを見逃したりする。ノイズが信号とともに蓄積される。

エンティティ解決は依然として脆弱である。ARIAがある会話で「config.py」に遭遇し、別の会話で「設定ファイル」に遭遇した場合、これらは同じノードであるべきだ。正確な文字列マッチングは失敗が多すぎ、曖昧マッチングは誤ったマージを引き起こす。我々は単語の重複類似度を使用しているが、これはほとんどの場合機能し、特定の予測可能な方法で失敗する妥協案である。

それでも重要な理由

これらの限界にもかかわらず、因果グラフは置き換えたフラットメモリリストとは質的に異なるものを表している。アクションを起こす前に依存関係をトレースできるエージェントは、孤立した事実を検索して応答を生成するエージェントとは異なる種類のツールである。その違いは単純な会話では常に見えるわけではないが、アクションに結果が伴い、システムが「何であるか」だけでなく「何が起こるか」を推論する必要がある計画の瞬間に顕在化する。

その瞬間、ほとんどのAIアシスタントは非常に高速なパターンマッチャーであることを露呈する。そして、ワールドモデルを持つエージェントは何か違うもののように感じられ始める。

我々はまだその構築の途上にある。グラフは本物であり、エッジは本物であり、矛盾検出は本物である。しかし、ワールドモデルが現在行っていることと、真の因果推論との間のギャップは依然として大きい。方向性は正しく、距離は正直である。私たちは時計を作っているのであり、単に歯車を動かしているのではない。