言語エージェントは通常、「観察→推論→行動」のループで動作しますが、それらが頼る記憶はループの外側にあります。つまり、1ターンに最大1回しかクエリされないストアです。この設計は、ネットワークレイテンシの深刻な制約に起因します。従来のネットワークストレージの応答時間は数十～数百ミリ秒であり、毎ステップで検索を行うと、エンドツーエンドのレイテンシが最大83倍に膨れ上がる可能性があります。これまでの研究では、スケジューリングや検索頻度の制限によってこのコストを管理しようとしてきましたが、その必要性そのものに疑問を呈することはありませんでした。
Yusuf Khanらによる新たな研究（arXiv:2607.05690）は、根本的に異なる視点を提示します：レイテンシはストレージの場所の問題であり、ループパターンの問題ではない、と。インプロセスストレージの応答時間は約100マイクロ秒であり、ネットワークストレージより3桁も高速です。この速度では、ステップごとの追加コストはほぼゼロになります。「拡張心」テーゼのパリティ原則に基づけば、十分に高速で常時直接利用可能なストレージは、エージェントが単に参照するツールではなく、拡張ワーキングメモリとなります。
この前提を検証するため、研究者は因果実験を設計しました：ターンごとのメモリレイテンシ予算を固定し、ストレージの応答速度のみを変化させます。結果、冗長アクションはレイテンシに比例して増加しました——インプロセス速度では12タスク中0.0が冗長だったのに対し、110ミリ秒のクラウド往復時間では7.2が冗長となりました（GPT-5-nanoおよびGPT-5-mini、正確な順列検定p=0.0079）。この結果は、レイテンシの低減がエージェントの行動効率に直接影響し、不要な繰り返し操作を減少させることを示しています。
エンドツーエンドの実験では、さらにその可能性が実証されました：4種類のGPT-5クラスモデルで有界ウィンドウを使用した場合、インプロセスループメモリにより再現率が0/5から3.6～4.8/5に向上し、ストレージ操作の中央値レイテンシは80～165マイクロ秒でした。注目すべきは、「毎回の返信で言い換える」ように指示されたベースラインも完全に問題を解決したことですが、そのトークンコストはワーキングセットの規模に応じて増大します。ストレージ自体は全244回の書き込みで一度も事実を失わず、すべてのミスはエージェントの読み取りポリシーに起因しました。
さらに、この研究はボトルネックの転換も明らかにしました：ステップごとの主要コストは埋め込み生成にあり（ネットワーク経由で200～400ミリ秒）、インプロセスストレージと小型ローカル埋め込みモデルを組み合わせることで、完全な操作が約40マイクロ秒に短縮されます。この成果は、より効率的でインテリジェントな言語エージェントを構築するための新たな道を開くものです。従来のアプローチのように検索頻度やスケジューリングを最適化するのではなく、ストレージの場所と速度を直接変更することで、質的な飛躍が可能となります。今後、この「ループ内メモリ」設計は言語エージェントの標準アーキテクチャとなり、リアルタイム対話や複雑な推論タスクの実現可能性を高めるでしょう。