大語言模型（LLM）已成為現代人工智慧的核心基礎，但其生命週期仍受限於訓練與部署之間的嚴格劃分——部署後學習實際上停止。這一侷限與透過環境互動持續適應的自然智慧形成鮮明對比。在arXiv預印本《CASCADE: Case-Based Continual Adaptation for Large Language Models During Deployment》中，研究團隊正式定義了部署時學習（DTL）作為LLM生命週期的第三階段，使LLM代理能夠在部署期間透過經驗改進而無需修改模型引數。
為此，他們提出了CASCADE（部署期間的基於案例的持續適應）框架，這是一個通用且原則性的框架，為LLM代理配備顯式且不斷演變的情景記憶。CASCADE將經驗複用表述為上下文賭博機問題，實現了原則性的探索-利用權衡，並建立了長期互動的無遺憾保證。這種設計使代理能夠積累、選擇和精煉任務相關案例，將過去經驗轉化為可操作知識。
在涵蓋醫療診斷、法律分析、程式碼生成、網路搜尋、工具使用和具身互動等16項不同任務的實驗中，CASCADE相比零樣本提示將宏觀平均成功率提高了20.9%，同時持續優於基於梯度和基於記憶的基線方法。透過將部署重新構想為自適應學習過程，這項工作為持續改進AI系統奠定了基礎。該框架特別強調無需引數更新，僅透過案例記憶的增量和選擇機制實現自適應，這在實際部署中具有重要優勢，因為模型引數通常固定且無法頻繁更新。實驗結果顯示，CASCADE在長期互動中能夠穩定積累知識，並在新任務上快速適應，展現了持續學習的潛力。此外，作者還提供了理論保證，證明該演算法的無遺憾性質，確保了在不確定環境下的可靠效能。這一工作填補了LLM部署後學習能力的空白，為未來構建終身學習AI系統提供了新正規化。