EvolveMem：透過AutoResearch實現LLM智慧體自我演化的記憶架構
EvolveMem是一種自我演化的記憶架構，透過AutoResearch過程自動最佳化檢索配置，在多個基準測試中顯著提升效能。
來源arXiv Machine Learning作者: Jiaqi Liu, Xinyu Ye, Peng Xia, Zeyu Zheng, Cihang Xie, Mingyu Ding, Huaxiu Yao
當前，大語言模型（LLM）智慧體在跨會話場景中嚴重依賴長期記憶，但現有記憶系統僅關注儲存內容的更新，而檢索基礎設施（如評分函式、融合策略、答案生成策略）在部署後固定不變。這種靜態設計限制了智慧體的自適應能力，使其無法根據實際互動反饋動態調整檢索方式。
針對這一挑戰，來自相關研究團隊（包括Jiaqi Liu等七位作者）提出了EvolveMem——一種自我演化的記憶架構。其核心創新在於：將完整的檢索配置暴露為結構化動作空間，並由LLM驅動的診斷模組進行最佳化。在每個演化輪次中，診斷模組讀取每個問題的失敗日誌，識別根本原因，並提出針對性的配置調整；隨後，一個受保護的元分析器應用這些調整，並具備自動迴歸回退和停滯探索的安全機制。這意味著如果某項調整導致效能下降，系統會自動回滾；如果效能長期停滯，則會觸發探索新策略。這一閉環自演化過程實現了AutoResearch：系統自主對其自身架構進行迭代研究迴圈，徹底取代了人工配置調優。
實驗表明，從最小基線出發，EvolveMem在LoCoMo資料集上相比最強基線提升了25.7%（相對值），相比最小基線提升了78.0%；在MemBench上相比最強基線提升了18.9%。更重要的是，演化得到的配置在不同基準之間呈現正向遷移而非災難性遷移，說明自演化過程捕獲了通用檢索原則而非基準特定啟發式。團隊已開原始碼，地址為https://github.com/aiming-lab/SimpleMem。
該研究為LLM智慧體的長期記憶管理提供了全新正規化，未來可進一步探索更廣泛的自動化架構搜尋方向，例如結合強化學習或元學習來加速演化過程。