EvoLib：将经验转化为进化的知识
EvoLib是一个新框架，让大型语言模型在推理过程中从自身经验中学习，通过将过去的尝试转化为可复用的技能和反思性见解，并不断细化和整合，使得知识随着时间推移变得更加通用和有效。
来源Microsoft Research Blog作者: Weijia Xu, Alessandro Sordoni, Zelalem Gero, Michel Galley, Eric Yuan, Jianfeng Gao
大型语言模型（LLM）的智能提升并非仅仅依靠记忆的积累。微软研究院提出的EvoLib框架，旨在让AI系统像人类一样，从自身经验中提炼可迁移的知识，并持续进化。与传统记忆系统仅存储静态经验不同，EvoLib将原始经验转化为两种知识单元：从成功解决方案中提取的可复用技能，以及从错误中学习的反思性见解。通过整合（Consolidation）机制，新知识与库中相似知识合并，形成更通用的知识；同时，权重机制（Weighting）根据知识对当前任务及未来知识生成的贡献动态调整其重要性，使长期影响最大的知识逐渐凸显。实验在数学推理、效率约束下的代码编写和长周期决策任务中进行。结果显示，EvoLib一致优于基于检索的记忆方法和抽象记忆机制，且token使用更高效。随着测试时计算量的增加，EvoLib的性能提升更快，表明将经验转化为可复用知识是关键。此外，EvoLib对随机任务顺序具有鲁棒性，在异构任务交错的真实场景中性能稳定，无需结构化课程。这意味着AI系统可以在处理混合用户请求时持续学习，无需重新训练模型。EvoLib代表了AI持续学习的一步：通过构建进化的知识库，模型在部署后仍能不断改进和适应。未来，AI系统或能像人类一样积累并复用可迁移的技能与洞察。代码和实验结果已在GitHub开源。