AI代理记忆的三级难度解析
本文从三个难度级别解释AI代理记忆：无状态LLM代理的根本记忆问题，主要记忆类型（上下文内记忆和外部记忆），以及可扩展架构（包括写入策略、检索方法、衰减处理和多方代理一致性）。为构建能随时间改进的代理提供实用见解。
无状态AI代理每次请求都从零开始，这适用于孤立任务，但在需要追踪决策、记住用户偏好或从中断处继续时成为问题。本文分三个层次解释AI代理记忆，从基础问题到大规模架构。
第一层：理解记忆问题。大语言模型（LLM）无持久状态，每次API调用都是无状态的。这引发四个关键问题：之前发生了什么？用户想要什么？代理尝试过什么？代理积累了哪些事实？记忆问题就是给无状态系统赋予持久、可查询的过去知识的能力。
第二层：记忆类型。上下文内记忆（工作记忆）包含当前上下文窗口中的一切，精确但受限于窗口大小。外部记忆通过检索增强生成（RAG）实现，包括语义搜索和精确查找两种模式。最健壮的代理记忆系统结合两者。
第三层：可扩展架构。需要存储事件记忆（具体事件）、语义记忆（事实和偏好）和程序记忆（行动模式）。写入策略包括会话结束总结和事件触发写入，避免存储原始转录或中间推理痕迹。检索策略包括向量相似性搜索、结构化查询和混合检索。记忆衰减通过时间权重和版本化实体记录处理。多方代理记忆通过中央记忆、命名空间或仅追加日志保持一致性。评估指标包括检索召回率、精确度、忠实度和陈旧率。
代理记忆像堆栈：上下文内记忆保持当前工作状态，外部检索带来相关历史和事实。工程挑战在于确定记录什么、何时触发检索，以及如何维护干净有用的记忆。