大規模言語モデル（LLM）は数学的推論やマルチホップ計画タスクにおいて優れた推論能力を示してきた。CoCoNuT（Chain of Continuous Thought、連続思考連鎖）パラダイムはこれをさらに拡張し、モデルが潜在空間で推論を行うことで、早い段階で単一の思考連鎖に固定することなく、複数の推論経路を同時に探索できるようにする。しかし、新たにarXivに投稿された論文は、このパラダイムに見過ごされてきた限界があると指摘する。
著者らはこの問題を「概念ボトルネック（concept bottleneck）」と呼ぶ。各推論パスにおいて中間隠れ状態は新しい計算によって上書きされるため、初期のステップで計算された重要な事実は、推論の深さが増すにつれて失われていく。言い換えれば、モデルの残差ストリームは層と層の間では情報を保持するが、推論パスと推論パスの間には永続的な保存経路が存在しないのである。
この観察は実験によって裏付けられている。HotpotQAデータセットにおいて、元のCoCoNuTは10.4%の完全一致（EM）にとどまり、従来の思考連鎖（CoT）ベースラインの11.0% EMを上回ることができなかった。またGSM8Kの数学推論データセットでは、カリキュラム深度が増すにつれて性能が低下し、推論連鎖が長くなるほど初期情報の喪失が悪影響を及ぼすことが示された。
この問題に対処するため、著者らはAGCLR（Adaptive Gated Continuous Latent Reasoning、適応ゲート付き連続潜在推論）を提案する。この手法はCoCoNuTに「ゲート付き概念ストリーム（Gated Concept Stream）」を追加する。すなわち、すべての推論パスにわたって持続的に保持される残差メモリである。
このメモリストリームは、学習された3つのゲートによって制御される。書き込みゲート（write gate）は中間事実をメモリに書き込み、読み出しゲート（read gate）は必要に応じて関連する過去の状態を検索し、忘却ゲート（forget gate）は無関係な文脈を剪定してメモリがノイズで埋まるのを防ぐ。この設計はリカレントニューラルネットワークにおける古典的なゲート付きメモリの考え方を取り入れたものであるが、連続思考という潜在推論のプロセスに適用されている点が新しい。
著者らはGPT-2をベースモデルとして、GSM8K、HotpotQA、ProsQAの3つのデータセットで評価を行った。その結果、AGCLRはすべての種類のデータセットで一貫した性能向上を達成し、さらにカリキュラム深度が増すにつれて性能差が累積的に拡大することが確認された。これは本手法が概念ボトルネックを直接緩和していることを裏付けるものである。
論文は2026年6月5日にarXivに投稿され、番号は2606.07720、分類は人工知能（cs.AI）で、計算と言語（cs.CL）および機械学習（cs.LG）にもまたがる。著者はMujtaba Farhanともう1名の共著者であり、コードは匿名リポジトリで公開されている。残差ストリームを層間だけで共有し、トークン間で永続的に保持しないのはなぜかという本論文の問題提起は、連続潜在推論の研究に注目すべき新たな方向性を示している。