大規模言語モデル（LLM）は短いコンテキストでの推論に優れる一方、会話が長期化するとコンテキストウィンドウの制限や非効率なトークン使用により性能が低下する。この課題に対し、Derek Thomas氏が2026年5月にarXivへ投稿した論文では、コンテキストリサイクリングによってターンを跨いでタスク関連情報を維持するシステム「ContextForge」を提案している。
ContextForgeの中心的な考え方は、完全なコンテキストの再生に頼らず、構造化クエリ生成、外部メモリ検索、制御された合成の三つを組み合わせることにある。システムはまず現在の会話に基づいて構造化クエリを生成し、次に外部メモリからタスクに関連する履歴情報を検索し、最後に検索結果を制御された合成によって現在のターンの回答根拠へと統合する。これにより、以前の計算を効率的に再利用しつつ、トークンオーバーヘッドを大幅に削減しながら回答品質を維持できる。
評価のために、研究チームは15ターンの会話ベンチマークを構築した。このベンチマークはマルチターン推論、後方参照、領域切り替えをテストするもので、構造化された医療クエリを題材としている。同一の基盤モデルを使用するベースラインエージェントと比較して、ContextForgeは応答精度を同程度に保ちながら、一貫性の向上とトークン消費の削減を実現した。
論文は、これらの結果がコンテキストリサイクリングを実用的なアプローチとして位置づけ、コンテキストウィンドウの拡大やモデルの再訓練を必要とせずに長期的タスクにおけるLLMの能力を拡張できることを示唆している。コードと評価成果物はGitHubで公開されており、コミュニティによる再現とさらなる研究が可能である。
本研究は計算と言語（cs.CL）に属し、人工知能（cs.AI）や機械学習（cs.LG）にも関連しており、長い対話シナリオにおけるLLM展開に新たなエンジニアリングの視点を提供する。