最新arXiv论文《On Distinguishing Capability Elicitation from Capability Creation in Post-Training: A Free-Energy Perspective》提出了一种区分大语言模型后训练中两种不同能力变化的理论框架。作者Yuhao Li等人认为,当前关于监督微调(SFT)和强化学习(RL)的讨论过于粗糙,通常将SFT视为模仿、RL视为发现,但这种二分法忽略了更本质的问题:训练过程究竟是提升了模型已经能够产生的行为的概率,还是改变了模型实际能够达到的行为范围。
为了将这一区别操作化,论文引入了“可达支持集”(accessible support)的概念,即模型在有限计算预算下实际能够产生的行为集合。后训练如果只是对这一集合内的行为概率进行重新加权,则属于“能力激发”(capability elicitation);而如果它改变了集合本身,使模型能够产生全新的行为,则属于“能力创造”(capability creation)。
作者通过自由能视角(free-energy perspective)来统一理解后训练过程。他们将SFT和RL都视为对预训练参考分布的重加权,区别仅在于外部信号不同:示范信号(demonstration signals)定义了SFT的低能行为,而奖励信号(reward signals)定义了RL的低能行为。只要更新过程保持靠近基础模型,其主要效果就是局部的重加权,而非能力创造。
在这一框架下,核心问题不再是后训练采用SFT还是RL的形式,而是它究竟是在重加权模型已经“够得着”的行为,还是通过搜索、交互、工具使用或引入新信息来扩展模型的可达行为空间。这一视角为后训练研究提供了更为精细的分析工具,有助于指导未来更有效、更可解释的模型优化策略。该论文于2026年5月8日提交至arXiv,涉及人工智能、统计力学和机器学习等多个领域。