跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

區分後訓練中的能力激發與能力創造:一種自由能視角

文章摘要

該論文提出,LLM後訓練應區分“能力激發”(重分配預訓練模型已能產生的行為機率)與“能力創造”(擴充套件模型可達到的行為空間),並透過自由能框架統一SFT和RL為對預訓練參考分佈的重加權,關鍵區別在於更新是否改變“可達支援集”。

來源arXiv AI作者: Yuhao Li, Shengchao Liu
區分後訓練中的能力激發與能力創造:一種自由能視角
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

最新arXiv論文《On Distinguishing Capability Elicitation from Capability Creation in Post-Training: A Free-Energy Perspective》提出了一種區分大語言模型後訓練中兩種不同能力變化的理論框架。作者Yuhao Li等人認為,當前關於監督微調(SFT)和強化學習(RL)的討論過於粗糙,通常將SFT視為模仿、RL視為發現,但這種二分法忽略了更本質的問題:訓練過程究竟是提升了模型已經能夠產生的行為的機率,還是改變了模型實際能夠達到的行為範圍。

為了將這一區別操作化,論文引入了“可達支援集”(accessible support)的概念,即模型在有限計算預算下實際能夠產生的行為集合。後訓練如果只是對這一集合內的行為機率進行重新加權,則屬於“能力激發”(capability elicitation);而如果它改變了集合本身,使模型能夠產生全新的行為,則屬於“能力創造”(capability creation)。

作者透過自由能視角(free-energy perspective)來統一理解後訓練過程。他們將SFT和RL都視為對預訓練參考分佈的重加權,區別僅在於外部訊號不同:示範訊號(demonstration signals)定義了SFT的低能行為,而獎勵訊號(reward signals)定義了RL的低能行為。只要更新過程保持靠近基礎模型,其主要效果就是區域性的重加權,而非能力創造。

在這一框架下,核心問題不再是後訓練採用SFT還是RL的形式,而是它究竟是在重加權模型已經“夠得著”的行為,還是透過搜尋、互動、工具使用或引入新資訊來擴充套件模型的可達行為空間。這一視角為後訓練研究提供了更為精細的分析工具,有助於指導未來更有效、更可解釋的模型最佳化策略。該論文於2026年5月8日提交至arXiv,涉及人工智慧、統計力學和機器學習等多個領域。

展開要點與分析

文章情報

工程師進階

要點

  • 引入“可達支援集”概念,指模型在有限預算下實際能產生的行為集合。
  • SFT和RL均被視為對預訓練分佈的重加權,僅是外部訊號不同。
  • 後訓練的核心問題不是SFT與RL的對比,而是其行為是重加權已有行為還是擴充套件行為空間。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。