跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

区分后训练中的能力激发与能力创造:一种自由能视角

文章摘要

该论文提出,LLM后训练应区分“能力激发”(重分配预训练模型已能产生的行为概率)与“能力创造”(扩展模型可达到的行为空间),并通过自由能框架统一SFT和RL为对预训练参考分布的重加权,关键区别在于更新是否改变“可达支持集”。

来源arXiv AI作者: Yuhao Li, Shengchao Liu
区分后训练中的能力激发与能力创造:一种自由能视角
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

最新arXiv论文《On Distinguishing Capability Elicitation from Capability Creation in Post-Training: A Free-Energy Perspective》提出了一种区分大语言模型后训练中两种不同能力变化的理论框架。作者Yuhao Li等人认为,当前关于监督微调(SFT)和强化学习(RL)的讨论过于粗糙,通常将SFT视为模仿、RL视为发现,但这种二分法忽略了更本质的问题:训练过程究竟是提升了模型已经能够产生的行为的概率,还是改变了模型实际能够达到的行为范围。

为了将这一区别操作化,论文引入了“可达支持集”(accessible support)的概念,即模型在有限计算预算下实际能够产生的行为集合。后训练如果只是对这一集合内的行为概率进行重新加权,则属于“能力激发”(capability elicitation);而如果它改变了集合本身,使模型能够产生全新的行为,则属于“能力创造”(capability creation)。

作者通过自由能视角(free-energy perspective)来统一理解后训练过程。他们将SFT和RL都视为对预训练参考分布的重加权,区别仅在于外部信号不同:示范信号(demonstration signals)定义了SFT的低能行为,而奖励信号(reward signals)定义了RL的低能行为。只要更新过程保持靠近基础模型,其主要效果就是局部的重加权,而非能力创造。

在这一框架下,核心问题不再是后训练采用SFT还是RL的形式,而是它究竟是在重加权模型已经“够得着”的行为,还是通过搜索、交互、工具使用或引入新信息来扩展模型的可达行为空间。这一视角为后训练研究提供了更为精细的分析工具,有助于指导未来更有效、更可解释的模型优化策略。该论文于2026年5月8日提交至arXiv,涉及人工智能、统计力学和机器学习等多个领域。

展开要点与分析

文章情报

工程师进阶

要点

  • 引入“可达支持集”概念,指模型在有限预算下实际能产生的行为集合。
  • SFT和RL均被视为对预训练分布的重加权,仅是外部信号不同。
  • 后训练的核心问题不是SFT与RL的对比,而是其行为是重加权已有行为还是扩展行为空间。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。