本論文「State commitment learning: training language models to distinguish computation from memory(状態コミットメント学習:計算と記憶を区別するよう言語モデルを訓練する)」は、2026年5月22日にarXivへ投稿されたもので、識別子はarXiv:2606.05201v1、分類は機械学習(cs.LG)です。著者はFei Ding氏と他5名の計6名で、本文は17ページ。投稿日時は2026年5月22日17:05:31 UTC、ファイルサイズは約29 KBです。
論文が指摘する中心的な問題は、推論言語モデルが、計算に使うトークンと永続的な状態を構成するトークンとを区別していない点にあります。一度生成された隠れた思考はすべてコンテキスト内に残り、その後の予測に影響を与え続けます。その結果、下流の推論が、失敗した試行や行き止まり、本来その後で安全に信頼されるべきではない私的なスクラッチ作業に依存してしまう可能性があります。
著者らはこの現象を新たな訓練目標として捉え直し、「状態コミットメント学習」と名付けました。これは、永続的な状態としてコミットすべき情報と、破棄してよい一時的な計算とをモデルに明示的に区別させるものです。これを訓練可能かつ測定可能にするため、反事実的な基準である「永続状態十分性」を定義しています。これは、隠れた思考を消去した後でも答えが利用可能かどうかを評価するものです。
さらに著者らは、反事実的消去強化学習(Counterfactual Erasure RL、CERL)を提案しています。この手法は同一のプレフィックスの下で、隠れた思考を保持する経路と消去する経路の両方を評価し、消去経路でもなお正しい場合にのみ報酬を与えます。また「消去依存プロトコル(Erasure Dependence Protocol)」も導入し、数学、長鎖論理、科学QA、多ターンのツール利用評価において、CERLが精度を犠牲にすることなく隠れた思考への答えの依存を大幅に減らし、正解性のみを目的とする強化学習や長文回答のSFTベースラインを一貫して上回ることを示しました。
本研究の意義は単なる訓練テクニックにとどまらず、答えが内部の草稿から真に独立しているかという問いを検証可能にする測定基準を提示した点にあります。長鎖タスクやツール呼び出しの場面で、推論モデルの信頼性と監査可能性を高めるうえで重要な方向性だと考えられます。引用形式はarXiv:2606.05201 [cs.LG]、DOIは10.48550/arXiv.2606.05201(DataCite発行)で、PDF、実験的HTML、TeXソースとして全文を取得できます。