EvolveMem:通过AutoResearch实现LLM智能体自我演化的记忆架构
EvolveMem是一种自我演化的记忆架构,通过AutoResearch过程自动优化检索配置,在多个基准测试中显著提升性能。
来源arXiv Machine Learning作者: Jiaqi Liu, Xinyu Ye, Peng Xia, Zeyu Zheng, Cihang Xie, Mingyu Ding, Huaxiu Yao
当前,大语言模型(LLM)智能体在跨会话场景中严重依赖长期记忆,但现有记忆系统仅关注存储内容的更新,而检索基础设施(如评分函数、融合策略、答案生成策略)在部署后固定不变。这种静态设计限制了智能体的自适应能力,使其无法根据实际交互反馈动态调整检索方式。
针对这一挑战,来自相关研究团队(包括Jiaqi Liu等七位作者)提出了EvolveMem——一种自我演化的记忆架构。其核心创新在于:将完整的检索配置暴露为结构化动作空间,并由LLM驱动的诊断模块进行优化。在每个演化轮次中,诊断模块读取每个问题的失败日志,识别根本原因,并提出针对性的配置调整;随后,一个受保护的元分析器应用这些调整,并具备自动回归回退和停滞探索的安全机制。这意味着如果某项调整导致性能下降,系统会自动回滚;如果性能长期停滞,则会触发探索新策略。这一闭环自演化过程实现了AutoResearch:系统自主对其自身架构进行迭代研究循环,彻底取代了人工配置调优。
实验表明,从最小基线出发,EvolveMem在LoCoMo数据集上相比最强基线提升了25.7%(相对值),相比最小基线提升了78.0%;在MemBench上相比最强基线提升了18.9%。更重要的是,演化得到的配置在不同基准之间呈现正向迁移而非灾难性迁移,说明自演化过程捕获了通用检索原则而非基准特定启发式。团队已开源代码,地址为https://github.com/aiming-lab/SimpleMem。
该研究为LLM智能体的长期记忆管理提供了全新范式,未来可进一步探索更广泛的自动化架构搜索方向,例如结合强化学习或元学习来加速演化过程。