跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

ANNEAL:通过受控符号补丁学习让LLM智能体适应故障

文章摘要

ANNEAL提出一种神经符号智能体,它将重复出现的执行故障转化为对过程知识图谱的受控符号编辑,而非修改模型权重或提示。在四个领域、27次多随机种子实验中,该方法将反复故障的留存失败率从基线的72-100%降至0%。

来源arXiv AI作者: Safayat Bin Hakim, Keyan Guo, Wenkai Tan, Alvaro Velasquez, Shouhuai Xu, Houbing Herbert Song
ANNEAL:通过受控符号补丁学习让LLM智能体适应故障
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

大语言模型(LLM)驱动的智能体在单次任务执行中往往能够从错误中恢复过来,但当底层流程知识——即操作符的模式定义、前置条件和约束条件——本身存在缺陷且未被修复时,它们会在遇到同一类故障时反复失败。现有的自进化方法试图弥补这一缺口,主要手段包括更新提示词、扩充记忆库或微调模型权重,但这些方法都没有直接修复编码任务执行逻辑的符号结构,也很少提供安全部署所需的治理保障。针对这一问题,Safayat Bin Hakim 等六位作者在 2026 年 5 月 4 日提交至 arXiv 的论文(编号 2605.16309,属 cs.AI 领域,并交叉涉及 cs.LG 与 cs.MA)中提出了名为 ANNEAL 的神经符号智能体系统,其核心思路是将反复出现的失败转化为对流程知识图谱的有治理的符号化编辑,而无需改动基础模型的权重。

ANNEAL 的关键机制被称为“失败驱动的知识获取”(Failure-Driven Knowledge Acquisition,FDKA)。该机制在检测到故障后,首先定位应当负责的操作符,随后通过受约束的 LLM 生成过程合成一个带类型的补丁,再经过多维评分、符号化防护栏以及金丝雀测试等多重验证,只有全部通过后才会将补丁提交到知识图谱中。每一个被接受的编辑都附带完整的来源溯源信息,并具备确定性的回滚能力,这使得系统的每次结构修改都可审计、可撤销,从而满足实际部署中对安全治理的要求。

研究团队在四个领域、共 27 组多种子运行中对该方法进行了评估。结果显示,ANNEAL 是唯一能够提交持久性结构修复的受测系统。ReAct、Reflexion 等强基线方法虽然在单次任务中表现出很高的即时恢复率,但在面对反复出现的故障时,其留出集失败率仍高达 72% 至 100%;相比之下,ANNEAL 在测试的重复故障场景中将这一失败率降至 0%。消融实验进一步证实,一旦移除 FDKA 机制,所有结构性修复都会消失,成功率最多下降 26.7 个百分点。

作者在论文摘要中指出,这些结果表明,有治理的符号修复为持久性故障消除提供了一种与权重级适应和提示级适应互补的新范式。论文同时提供了代码实现的链接,全文可通过 PDF 或实验性 HTML 版本获取,DOI 为 10.48550/arXiv.2605.16309。值得注意的是,该研究聚焦于流程知识的结构化表示,其对提示词和权重方法的定位是互补而非替代,实际效果仍需在更多真实部署场景中进一步验证。

展开要点与分析

文章情报

工程师中级

要点

  • ANNEAL通过故障驱动知识获取(FDKA)定位故障操作符并生成类型化补丁,经多维度评分、符号护栏和金丝雀测试后提交。
  • 每次接受的编辑都带有完整溯源和确定性回滚能力,确保安全部署。
  • 在测试的反复故障场景中,ANNEAL将留存失败率降至0%,而ReAct和Reflexion等基线仍保持72-100%。
  • 消融实验显示移除FDKA会消除所有结构修复,成功率最多下降26.7个百分点。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。