智能体通常被期望能从失败中吸取教训,使经验积累转化为持续改进。但现实是,当前的智能体往往只能临时恢复:在上下文内产生的反思容易在跨会话时被遗忘,还会挤占本就有限的上下文窗口;而全参数微调不仅代价高昂,还可能干扰模型已有的能力。Yuval Kansal 与另外六位作者在 arXiv 论文《Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons》中,提出了一种名为 Self-Direction 的机制,试图在两种极端之间找到更实用的路径。
Self-Direction 的核心思路是:当智能体在某个任务上失败时,它先对自身执行轨迹进行反思,从中提炼出一条可操作的教训,随后立即把这条教训蒸馏进一个轻量级的低秩适配器(low-rank adapter)。与全参数微调不同,该方法保持基础模型的原始权重冻结,只训练额外参数,每个适配器所涉及的参数量大约相当于基础模型参数总数的 0.02%。这种设计既避免了适配器训练覆盖基础模型参数,也大幅降低了训练成本。
完成训练后,智能体会把这些适配器保存进一个持久化的“经验库”。当之后遇到相关问题时,系统会自动把对应的适配器路由到当前任务中,从而复用此前学到的纠正经验。换句话说,错误不再只是一次性的上下文内补救,而是被固化成可检索、可复用的模块,让智能体在跨会话的场景下仍能记住“刚刚学到的教训”。
作者在多个基准上验证了该方法的效果,实验使用的智能体基于 Qwen 系列开放权重模型。测试覆盖三类任务:开放式研究任务 GAIA、工具使用工作流 Claw-Eval,以及终端任务 Terminal-Bench 2.1。结果显示,Self-Direction 将整体成功率提升了 8.9 至 17.0 个百分点,并且与前沿系统相比具有竞争力。
除了成功率的提升,研究还发现 Self-Direction 能减少未来再次遇到同一任务时的重复错误,使智能体纠正行为的可靠性接近翻倍。更值得注意的是,学习到的经验具有迁移性:少量适配器无需额外训练,就能泛化到数十个新任务上。这意味着智能体不必为每个新问题都从头学习,而是可以借助已有的经验模块快速适应。
论文将这种机制概括为“自我导向修复”,其目标是把日常错误转化为持久经验。从工程角度看,这一方法的价值在于它同时兼顾了上下文内重试的灵活性和策略更新的持久性,同时用极小的参数增量控制了成本与对原有能力的干扰。对于需要长期运行、跨会话执行任务的智能体系统而言,这种“错误—反思—蒸馏—路由”的闭环提供了一种可落地的持续改进方案。该论文于 2026 年 10 月 22 日提交,arXiv 编号为 2610.31846,属于 cs.AI 与 cs.LG 交叉领域。