AIメモリシステムが大規模環境で破綻する仕組み

要点

• コサイン類似度の精度は埋め込みモデルの規模に依存せず、20倍のスケール範囲で0.09に固定される。
• セッションドリフトスコアは0.92～1.0に達し、無関係なターンからの信念が再エントリクエリを汚染する。
• セッション負荷下でレイテンシは平均2,736msに悪化し、取り込みレイテンシは数分間の可用性ギャップを生む。
• エイリアス加重BM25はユーザ自身の語彙選択を利用し、使用とともに精度が向上する。