AI News HubLIVE
站内改写1 分钟阅读

Agentic AI系统中的上下文工程与记忆工程

本文探讨了上下文工程和记忆工程在Agentic AI系统中的区别与联系。上下文工程关注单次推理调用中的信息选择、压缩和放置,而记忆工程则涉及跨调用、跨会话的持久化信息管理。两者在检索边界交汇,管理不善会导致检索信息冗余或上下文污染。

来源Machine Learning Mastery作者: Bala Priya C

在Agentic AI系统中,随着工作流程和多会话用例的复杂化,常见的问题包括约束在任务中途丢失、检索到的信息在不该出现时重现、以及前一步的上下文污染当前步骤。这些失败通常难以定位,因为没有任何单一组件明显出错。多数情况下,问题源于两个常被混淆或忽视的领域:上下文工程(Context Engineering)和记忆工程(Memory Engineering)。它们相互关联但本质不同,各自以不同方式失败,需要不同的系统来完善。

上下文工程涉及单次推理调用的设计:包含哪些信息、如何压缩、如何放置、以及舍弃什么。所有信息都是临时的,调用结束后上下文窗口即清空。具体决策包括选择性包含(并非所有可用信息都应进入上下文,数据库返回的数百行或完整网页可能增加噪音)、结构化放置(模型对长上下文开头和结尾的内容关注更强,中间部分容易被忽略,即“迷失在中间”效应)、以及到达即压缩(工具输出应在返回后立即压缩,而非等待窗口填满后再截断)。对话历史管理也需要定期压缩策略,如滚动窗口或分层摘要。

记忆工程则关注超越单次交互的持久化。它涵盖四个关键方面:写入策略设计(明确触发写入的事件、符合存储条件的信息、存储格式、置信度要求、写入权限、更新规则和过期策略)、存储层选择(不同类型记忆匹配不同后端:工作记忆用内存或短期KV存储,情景记忆用向量数据库,语义记忆用向量或混合存储,程序记忆用结构化存储或指令注入)、检索策略(先查工作记忆,再语义搜索,应用元数据过滤,只注入当前步骤所需)、以及记忆维护(置信度衰减、去重、TTL过期、旧情景记录压缩)。

上下文工程和记忆工程在检索边界交汇。记忆系统产出候选信息,上下文组装决定是否纳入提示、纳入多少、以及如何放置。管理好这一边界能将记忆组件转化为连贯的Agent行为。两个常见失败模式是:检索信息中混入过时或低相关度内容,以及检索信息放置不当导致模型未有效利用。理解两者的差异与协同,是构建可靠Agent系统的关键。