近年来，思维链（Chain-of-Thought, CoT）推理已成为增强大语言模型（LLM）能力的默认策略。然而，一个根本性问题始终悬而未决：显式推理究竟在何时真正有益？实证研究表明一个引人注目的悖论：在事实性任务和开放式任务上，CoT往往只带来边际收益，甚至产生负面影响，同时成倍增加token消耗。这种矛盾促使研究者重新审视推理的本质。
来自arXiv的一篇新论文《When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions》提出，LLM的推理并非任务或模型的静态属性，而是一种在生成过程中动态涌现的解码状态。作者通过系统分析发现，早期阶段的熵动态为识别这种状态提供了可靠信号：那些能从CoT中受益的任务表现出持续的熵减，而其他任务则呈现不稳定或熵增的模式。这种行为可以被解释为一种类似相变的转变——从高熵的探索性机制过渡到低熵的结构化推理机制。
基于这一洞察，研究者提出了EDRM（Entropy Dynamics-based Reasoning Manifold），一个轻量级且无需训练的推理路由框架。EDRM利用早期解码熵来自适应地选择推理策略。具体而言，它将熵轨迹嵌入到一个紧凑且可解释的流形表示中，从而支持零样本部署和细粒度的实例级自适应。这意味着系统可以在生成初期就判断当前任务是否需要启动CoT，从而避免不必要的计算开销。
为了验证EDRM的有效性，作者在15个基准测试和4个不同规模与架构的LLM上进行了广泛实验。结果表明，EDRM始终优于静态基线。在数据集层面，仅需50个校准样本，EDRM就能在提升准确率的同时减少41%至55%的token消耗。在实例层面，它进一步将准确率提升最高达4.7%，同时保持27%至45%的token节省。这些结果有力地支持了一个核心观点：推理应当被选择性地调用，而非默认开启。
该研究还展示了熵驱动解码控制对于高效自适应LLM推理的有效性。通过将推理视为一种动态状态而非固定属性，EDRM为构建更经济、更智能的推理系统提供了新思路。未来，这种方法有望扩展到更多任务类型和模型架构中，推动LLM推理效率的进一步提升。