跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

ImProver 2:面向神经符号证明优化的迭代式自我改进语言模型

文章摘要

该论文提出 ImProver 2,一个面向 Lean 4 的神经符号证明优化框架,结合数据高效的专家迭代流程与暴露形式结构的脚手架,并引入一套衡量证明结构性质的指标。基于该框架训练的 7B 参数模型在同族中超越规模大得多的模型,并在多项指标上可与中端前沿模型竞争。

来源arXiv AI作者: Riyaz Ahuja, Tate Rowney, Jeremy Avigad, Sean Welleck
ImProver 2:面向神经符号证明优化的迭代式自我改进语言模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

arXiv 于 2026 年 5 月 21 日收录了一篇题为《ImProver 2: Iteratively Self-Improving LMs for Neurosymbolic Proof Optimization》的新论文(编号 arXiv:2605.22885v1,cs.AI 类别),作者为 Riyaz Ahuja 等四人。该研究聚焦于形式化数学证明库快速扩张背景下的一个日益迫切的问题:如何对已经通过验证的证明进行重构,使其更易维护,同时提升面向神经证明器的训练数据质量。

论文指出,可扩展的证明优化面临多重障碍。首先是目标函数异质且往往依赖启发式规则来指定,缺乏统一而清晰的优化方向;其次是训练数据稀缺;第三是训练与推理成本高昂。这些问题共同限制了自动化证明优化在实际中的推广。

为应对上述挑战,研究团队提出了 ImProver 2,这是一个面向 Lean 4 的神经符号(neurosymbolic)框架,用于自动化证明优化。该方法将数据高效的专家迭代(expert-iteration)流水线与一种脚手架(scaffold)机制相结合,后者在暴露形式化结构的同时,提供轻量级的非形式化抽象,从而让模型在形式严谨性与可理解的中间表示之间取得平衡。此外,作者还引入了一套用于刻画证明结构性质的度量指标,使优化效果可以被更细致地评估。

在实验结果方面,研究团队利用 ImProver 2 训练了一个 70 亿参数规模的模型。该模型在同一模型家族内超越了参数量高出数量级的更大模型,并在多项指标上与中端前沿模型具有竞争力。作者进一步表明,其神经符号脚手架能够显著提升小型模型与前沿模型的性能。

论文的核心结论是:在恰当的脚手架设计与训练方法支持下,小型模型同样能够针对复杂多样的指标,有效地重构研究级别的证明,达到与规模大得多的系统相当的水平。这一结果将证明优化确立为一项可扩展、可学习(learnable)的任务。

从时间线看,该论文于 2026 年 5 月 21 日 02:20:26 UTC 提交,PDF 大小约 8,321 KB,DOI 已通过 DataCite 发放(注册尚待完成)。论文主题涵盖人工智能、计算与语言、机器学习以及计算机科学中的逻辑等多个方向。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出 ImProver 2 神经符号框架,用于 Lean 4 中的自动化证明优化
  • 结合数据高效的专家迭代流程与轻量级非形式化抽象脚手架
  • 7B 模型在同模型家族中超越规模大数十倍的模型,并与中端前沿模型相当
  • 将证明优化确立为可扩展、可学习的任务

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。