同策略蒸餾：高效訓練專用小模型的方法（2025）
Thinking Machines Lab 提出同策略蒸餾（On-Policy Distillation），結合強化學習的策略相關性與監督微調的密集獎勵訊號，以更低成本訓練小模型。實驗表明，在數學推理和個性化任務上，同策略蒸餾比強化學習節省 50-100 倍計算量，並能有效恢復微調中丟失的指令遵循能力。
同策略蒸餾：高效訓練專用小模型的方法（2025）
本文僅提供摘要
根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。
Thinking Machines Lab 提出同策略蒸餾（On-Policy Distillation），結合強化學習的策略相關性與監督微調的密集獎勵訊號，以更低成本訓練小模型。實驗表明，在數學推理和個性化任務上，同策略蒸餾比強化學習節省 50-100 倍計算量，並能有效恢復微調中丟失的指令遵循能力。
根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。