强化学习(RL)近年来在众多真实场景中获得越来越多的关注与实际应用。然而,大多数已部署的系统仍然遵循“先训练、后固定”(train-then-fix)的范式:智能体一旦训练完成便不再在与世界交互的过程中继续学习,直到性能下降到不得不重新训练为止。arXiv 论文《Position: Deployed Reinforcement Learning should be Continual》对这一主流做法提出了系统性质疑。该文是一篇立场论文,已被 ICML 2026 的 Position Paper Track 接收,作者为 Parnian Behdin 等三人,于 2026 年 6 月 1 日提交,属于机器学习(cs.LG)与人工智能(cs.AI)交叉方向。
论文的核心论点十分明确:当一个被部署的智能体本身无法达到最优、却能够持续接收到可评估的奖励信号时,它的部署过程本质上就是一个持续强化学习(continual RL)问题。换言之,只要奖励信号还在流动,学习就不应在部署那一刻停止。作者指出,把训练完成的模型视为一劳永逸的“固定成品”,与真实环境不断变化的本质之间存在根本矛盾。
为支撑这一立场,作者识别出部署之后导致环境非平稳性的四类来源。正是这些非平稳性使得“永不停止的学习”成为必要,而非可选项。虽然摘要层面未逐一展开这四类来源的细节,但其共同指向是:部署环境的动态变化(如数据分布漂移、用户行为改变、系统自身行为对环境的反作用以及奖励评估标准本身的演化)会持续削弱固定策略的有效性,从而让持续适应成为部署系统的内在需求。
论文进一步强调,表现最好的已部署智能体从来不是停止适应的,而是持续调整的。作者分析了现实世界中持续强化学习的成功案例,用这些实践证据说明:与其等待性能衰退再被动重训,不如让系统在运行中主动学习。
在结论层面,该文面向研究社区提出了摆脱当前“先训练、后固定”范式的优势与可行措施,呼吁从方法论、评测和工程实践上接纳持续学习作为部署阶段的常态。作为一篇立场论文,其价值不在于提出单一新算法,而在于重构问题的框架:部署不是学习的终点,而是一个持续学习过程的起点。