跳到主要內容
AI News HubLIVE
更多
僅摘要

SFT別急著接RL!你的多模態大模型可能一直在“帶傷訓練”

研究發現多模態大模型後訓練中SFT會導致分佈偏移,使模型效能下降,RL階段實際是在“還債”。PRISM提出三階段流水線,在SFT和RL之間加入分佈對齊階段,使用混合專家判別器分別處理感知漂移和推理漂移,顯著提升模型效能。

來源量子位作者: 衡宇
SFT別急著接RL!你的多模態大模型可能一直在“帶傷訓練”
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • SFT後模型效能下降,RL只是恢復基線
  • SFT引入表面模仿和感知/推理漂移兩類偏差
  • PRISM使用混合專家判別器進行對齊
  • 對齊後模型效能大幅提升,尤其對強基座模型

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。