大規模言語モデル（LLM）は現代の人工知能の中核をなすが、そのライフサイクルは訓練と展開の厳格な分離によって制約され、展開後は学習が事実上停止する。この限界は環境との相互作用を通じて継続的に適応する自然知能と対照的である。arXivプレプリント「CASCADE: Case-Based Continual Adaptation for Large Language Models During Deployment」において、研究チームは展開時学習（DTL）をLLMライフサイクルの第三段階として正式に定義し、LLMエージェントがパラメータを変更せずに経験から改善できるようにした。
提案されたCASCADE（展開中のケースベース継続適応）フレームワークは、汎用かつ原則的なフレームワークであり、LLMエージェントに明示的で進化するエピソード記憶を提供する。CASCADEは経験の再利用を文脈バンディット問題として定式化し、原理的な探索と活用のトレードオフを可能にし、長期相互作用に対する無後悔の保証を確立する。この設計により、エージェントはタスク関連のケースを蓄積、選択、洗練し、過去の経験を実行可能な知識に変換する。
医療診断、法務分析、コード生成、ウェブ検索、ツール使用、身体化相互作用など16の多様なタスクにわたる実験で、CASCADEはゼロショットプロンプティングに比べマクロ平均成功率を20.9%向上させ、勾配ベースおよび記憶ベースのベースラインを一貫して上回った。展開を適応的学習プロセスとして再定義することで、この研究は継続的に改善するAIシステムの基盤を確立する。特に、モデルパラメータを更新せずに、ケースメモリの増分と選択メカニズムのみで適応を実現する点が実運用上の大きな利点であり、パラメータが固定され頻繁に更新できない状況でも持続的な学習が可能となる。実験結果は、CASCADEが長期相互作用において知識を安定的に蓄積し、新しいタスクに迅速に適応できることを示し、継続学習の可能性を実証している。また、著者らはアルゴリズムの無後悔特性を理論的に保証し、不確実な環境下での信頼性を確保している。この研究はLLMの展開後学習能力のギャップを埋め、生涯学習AIシステムの構築に向けた新しいパラダイムを提供する。