同策略蒸馏：高效训练专用小模型的方法（2025）
Thinking Machines Lab 提出同策略蒸馏（On-Policy Distillation），结合强化学习的策略相关性与监督微调的密集奖励信号，以更低成本训练小模型。实验表明，在数学推理和个性化任务上，同策略蒸馏比强化学习节省 50-100 倍计算量，并能有效恢复微调中丢失的指令遵循能力。
同策略蒸馏：高效训练专用小模型的方法（2025）
本文仅提供摘要
根据来源内容权限，本站仅提供编辑摘要、要点和原文链接。
Thinking Machines Lab 提出同策略蒸馏（On-Policy Distillation），结合强化学习的策略相关性与监督微调的密集奖励信号，以更低成本训练小模型。实验表明，在数学推理和个性化任务上，同策略蒸馏比强化学习节省 50-100 倍计算量，并能有效恢复微调中丢失的指令遵循能力。
根据来源内容权限，本站仅提供编辑摘要、要点和原文链接。