PathCal: 状態認識のリフレクションマーカー較正による効率的な推論

大規模推論言語モデル（LRM）は、テスト時間スケーリングにより複雑な推論タスクに取り組む際、長い思考連鎖（CoT）軌跡を生成する。これらの軌跡には「待って」「しかし」「あるいは」といったリフレクションマーカーが頻繁に現れ、それぞれためらい、修正、代替探索の考慮を示す。従来の研究ではこれらのマーカーを単一の粗いカテゴリとして扱っていたが、新たな研究「PathCal: 状態認識のリフレクションマーカー較正による効率的な推論」は、マーカーごとに機能と最適な介入タイミングが異なることを発見した。本論文はLingyu Jiangら9名の著者により2026年5月21日にarXivに提出された。

研究者らはまず、タイプ別の抑制と固定プレフィックス介入実験を実施し、リフレクションマーカーの差異化された役割を明らかにした。例えば、「待って」はためらい、「しかし」は修正、「あるいは」は代替案の考慮を示す。異なるマーカークラスは精度や生成長さに異なる影響を与え、モデルが安定した推論軌道に落ち着く前の段階でマーカーの選択が最も重要であることが判明した。この発見は、従来のマーカーを単一の粗いカテゴリとして扱うアプローチに挑戦するものである。

この知見に基づき、研究者らはPathCalを導入した。これは学習不要のデコード制御器であり、各ステップでリフレクションマーカーの分布を利用して、現在の推論軌道を維持することと競合する分岐を開始することの局所的な競合を推定する。競合分岐の証拠が過剰になった場合、PathCalはマーカーのロジットをソフトに再調整して介入し、モデルをより効率的な推論経路に導く。この状態認識の介入メカニズムは局所的な不確実性のみを対象とし、推論プロセス全体への強制的な変更を避ける。

実験は数学的推論や常識推論を含む6つの推論ベンチマークをカバーした。結果は、PathCalがほとんどの場合で精度を維持または向上させながら、推論出力の長さを大幅に短縮することを示した。外部検証器や追加サンプリングに依存する手法とは異なり、PathCalは追加の計算リソースを必要とせずに効率と性能のより良いトレードオフを達成する。この手法は特に計算リソースが限られた環境や迅速な応答が必要なアプリケーションに適しており、推論プロセスの細粒度制御に新たな道を開く。

パスキャリブレーション技術の出現は、モデル選定、推論コスト、製品機能、評価基準に大きな影響を与える可能性がある。今後の研究では、PathCalをより大規模なモデルや多様なタスクに拡張すること、およびより複雑な推論課題に対処するための介入戦略のさらなる最適化が期待される。