AIメモリシステムが大規模環境で破綻する仕組み

AIメモリシステムが大規模環境に移行する際、構造的な障害モードが表面化する。これらは偶発的なものではなく、根本的な設計上の欠陥に起因する。本稿ではTenureチームの研究に基づき、4つの主要な障害メカニズムと、語彙プライミング効果を活用した代替案を詳述する。

障害モード1：コサイン類似度がドメイン内の信念を区別できない 技術ドメイン内では、すべての関連信念が類似した意味空間に集まる。たとえば、Redisに関するクエリは、目標の信念だけでなく、MongoDB、TypeScript、Kubernetesなど、意味的に近いが無関係な信念も同時に返す。コサインスコアは0.65～0.83に達するが、関連性は大きく異なる。テストでは、埋め込みモデルを768次元から4096次元（パラメータ規模20倍）に拡張しても、平均検索精度は0.09で安定しており、すべてのアクティブ検索試行が失敗した。これは問題がモデル能力ではなく、コサイン類似度自体がドメイン内の語彙が標準化された環境での精密検索に適さないことを示している。

障害モード2：抽出品質が検索精度を予測できない 直感に反する発見の一つは、抽出段階で重要な事実が完全に保持されていても、検索段階で失敗する場合があることだ。例えば、認証サービスがRedisに依存するという信念が高品質で抽出・保存されたが、「認証サービスの依存関係と障害モード」というクエリに対し、システムは正しい信念を返す一方、16件の無関係な信念（lint設定、Reactスキル、Vitestの好みなど）も返し、検索精度は0.056に低下した。抽出と検索はアーキテクチャ上分離されており、抽出品質を向上させても検索層の構造的な汚染は解決できない。

障害モード3：セッションドリフトがターン間でノイズを累積する 単一ターンの検索指標はセッションレベルの障害を隠蔽する。10ターンのセッションで、最初にトピックを確立し、8ターンの無関係な話題を挟み、9ターン目で元のトピックに暗黙的に戻る。テストでは、既存システムのドリフトスコア（再エントリ時にドリフトターンから取得された信念の割合）は0.92～1.0に達し、理想値0.0とはかけ離れていた。クロスエンコーダによる再ランク付けを備えたシステムでも、10ターン目のドリフトスコアは0.94で、正しい信念は完全に欠落していた。再ランク付けはコサイン幾何学の根本的な欠陥を補えない。

障害モード4：レイテンシ数値がセッションレベルの劣化を隠す 公開されているレイテンシベンチマークはほぼ全てが単一ターンの数値を報告している。セッション負荷下では、あるシステムの平均レイテンシが672msから2,736msに急増し、P95は6,000msを超える。さらに深刻なのは書き込みレイテンシで、グラフベースのアーキテクチャは35件の信念を処理するのに897秒（1信念あたり25,630ms）を要する。典型的な会話のテンポ（10～30秒/ターン）では、ターン1で導入された信念がセッション終了時にしか利用できない可能性がある。

代替案：語彙プライミングに基づく検索信号 すべての障害モードの根本原因は、コサイン類似度が誤った主要検索信号であることにある。解決策は、単一の話者が1～2年間にわたって安定した独自の語彙選択を維持するという特性を活用することである。ユーザーが「kubernetes」「k8s」「kube」というエイリアスで同じ信念を指すなら、クエリにいずれかのエイリアスが含まれていれば、エイリアス加重BM25が高精度でその信念を返す。この方式は、ハードスコープ分離、エイリアス強化フライホイール、廃棄チェーン、圧縮メカニズムにより、使用とともに精度が向上する。初めて新しい用語に遭遇した場合は空の結果を返すが、抽出ワーカーがそれをエイリアスとして取得し、以降のクエリは正しく解決される。これは意味検索とは逆方向の精度フライホイールである：ストアが大きくなるほどエイリアスセットが豊富になり、検索精度が向上する。

Tenureチームの核心的な結論は、より優れた埋め込みモデルではなく、まったく異なる測定器が必要だということである。