強化学習(RL)は近年、実世界のさまざまなユースケースで注目と採用を急速に高めている。しかし、そうしたシステムの多くは依然として「訓練してから固定する(train-then-fix)」パラダイムに従っている。すなわち、訓練済みのエージェントは、性能が劣化して再訓練が必要になるまで、世界との相互作用の中で学習を続けない。arXiv 論文「Position: Deployed Reinforcement Learning should be Continual」は、この主流の慣行に体系的に異議を唱える立場論文である。本論文は ICML 2026 の Position Paper Track に採択され、Parnian Behdin 氏ら3名によって執筆され、2026年6月1日に投稿された。分野は機械学習(cs.LG)と人工知能(cs.AI)にまたがる。
論文の中心的主張は明確である。最適性を達成できないエージェントを展開し、それが評価可能な報酬シグナルを受け取るのであれば、その展開は本質的に継続的強化学習(continual RL)の問題である、というものだ。言い換えれば、報酬シグナルが流れ続ける限り、学習は展開の瞬間に止まるべきではない。著者らは、訓練済みモデルを一度きりの「固定された完成品」とみなすことと、現実環境が絶えず変化するという本質との間に根本的な矛盾があると指摘する。
この立場を支えるため、著者らは展開後に生じる非定常性の四つの源泉を特定している。これらの非定常性こそが「終わりのない学習」を選択肢ではなく必然にする。要旨のレベルでは四つの源泉は個別に詳述されていないが、その共通の方向性は明快だ。展開環境の動的な変化(データ分布のドリフト、ユーザー行動の変化、システム自身の振る舞いが環境に及ぼす反作用、報酬評価基準そのものの進化など)が、固定された方策の有効性を継続的に損なうため、継続的な適応は展開システムに内在する要件となる。
さらに論文は、最も優れた展開済みエージェントは決して適応を止めておらず、絶えず調整し続けていると強調する。著者らは実世界における継続的強化学習の成功事例を分析し、性能劣化を待って受動的に再訓練するのではなく、運用中に能動的に学習させることの実践的根拠を示している。
結論として、本論文は研究コミュニティに向け、現在の「訓練してから固定する」パラダイムから脱却する利点と具体的な方策を提示し、方法論・評価・工学実践の各面で継続学習を展開段階の常態として受け入れるよう訴える。立場論文としての価値は単一の新アルゴリズムの提案ではなく、問題の枠組みを再構築する点にある。展開は学習の終点ではなく、継続的学習プロセスの出発点なのである。