EvolveMem：通過AutoResearch實現LLM智能體自我演化的記憶架構
EvolveMem是一種自我演化的記憶架構，通過AutoResearch過程自動優化檢索配置，在多個基準測試中顯著提升性能。
來源arXiv Machine Learning作者: Jiaqi Liu, Xinyu Ye, Peng Xia, Zeyu Zheng, Cihang Xie, Mingyu Ding, Huaxiu Yao
當前，大語言模型（LLM）智能體在跨會話場景中嚴重依賴長期記憶，但現有記憶系統僅關注存儲內容的更新，而檢索基礎設施（如評分函數、融合策略、答案生成策略）在部署後固定不變。這種靜態設計限制了智能體的自適應能力，使其無法根據實際交互反饋動態調整檢索方式。
針對這一挑戰，來自相關研究團隊（包括Jiaqi Liu等七位作者）提出了EvolveMem——一種自我演化的記憶架構。其核心創新在於：將完整的檢索配置暴露為結構化動作空間，並由LLM驅動的診斷模塊進行優化。在每個演化輪次中，診斷模塊讀取每個問題的失敗日誌，識別根本原因，並提出針對性的配置調整；隨後，一個受保護的元分析器應用這些調整，並具備自動迴歸回退和停滯探索的安全機制。這意味着如果某項調整導致性能下降，系統會自動回滾；如果性能長期停滯，則會觸發探索新策略。這一閉環自演化過程實現了AutoResearch：系統自主對其自身架構進行迭代研究循環，徹底取代了人工配置調優。
實驗表明，從最小基線出發，EvolveMem在LoCoMo數據集上相比最強基線提升了25.7%（相對值），相比最小基線提升了78.0%；在MemBench上相比最強基線提升了18.9%。更重要的是，演化得到的配置在不同基準之間呈現正向遷移而非災難性遷移，説明自演化過程捕獲了通用檢索原則而非基準特定啓發式。團隊已開源代碼，地址為https://github.com/aiming-lab/SimpleMem。
該研究為LLM智能體的長期記憶管理提供了全新範式，未來可進一步探索更廣泛的自動化架構搜索方向，例如結合強化學習或元學習來加速演化過程。