近年、思考の連鎖（Chain-of-Thought, CoT）推論は、大規模言語モデル（LLM）の能力を高めるためのデフォルト戦略となっている。しかし、根本的な疑問が残る：明示的な推論はいつ実際に有益なのか？実証研究は驚くべきパラドックスを明らかにしている。事実に基づくタスクやオープンエンドなタスクでは、CoTはしばしばわずかな利益しかもたらさず、場合によっては悪影響を及ぼす一方で、トークン消費を何倍にも増やす。この矛盾は、推論の本質を再考する必要性を促している。
arXivの新しい論文「When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions」は、LLMの推論がタスクやモデルの静的な特性ではなく、生成中に動的に現れるデコーディング状態であると提案している。著者らは系統的な分析を通じて、初期段階のエントロピー動態がこの状態を識別するための信頼できる信号を提供することを発見した。CoTから恩恵を受けるタスクは一貫したエントロピー減少を示す一方、そうでないタスクは不安定または増加するパターンを示す。この挙動は、高エントロピーの探索的レジームから低エントロピーの構造化された推論レジームへの相転移のような移行として解釈できる。
この洞察に基づき、研究者らはEDRM（Entropy Dynamics-based Reasoning Manifold）を提案する。これは軽量でトレーニング不要の推論ルーティングフレームワークである。EDRMは初期のデコーディングエントロピーを利用して推論戦略を適応的に選択する。具体的には、エントロピー軌跡をコンパクトで解釈可能な多様体表現に埋め込み、ゼロショット展開と細粒度のインスタンスレベル適応の両方を可能にする。これにより、システムは生成の初期段階で現在のタスクにCoTを起動する必要があるかどうかを判断でき、不要な計算オーバーヘッドを回避できる。
EDRMの有効性を検証するため、著者らは15のベンチマークと、規模やアーキテクチャの異なる4つのLLMで広範な実験を行った。結果は、EDRMが静的ベースラインを一貫して上回ることを示している。データセットレベルでは、わずか50のキャリブレーションサンプルで、EDRMは精度を向上させながらトークン消費を41%から55%削減する。インスタンスレベルでは、精度を最大4.7%さらに向上させ、同時に27%から45%のトークン節約を維持する。これらの結果は、推論がデフォルトで有効化されるのではなく、選択的に呼び出されるべきであるという中心的な主張を強く支持している。
この研究はまた、効率的で適応的なLLM推論に対するエントロピー駆動型デコーディング制御の有効性を示している。推論を固定された特性ではなく動的な状態として捉えることで、EDRMはより経済的で賢い推論システムを構築するための新しい道を開く。将来的には、この手法がより多くのタスクタイプやモデルアーキテクチャに拡張され、LLM推論の効率をさらに向上させることが期待される。