跳到主要内容
AI News HubLIVE
站内改写3 分钟阅读

Import AI 478:数学对齐、ProgramBench 与 Mirendil 展示递归自我改进

文章摘要

本期 Import AI 探讨数学形式化如何助力 AI 对齐,ProgramBench 基准测试的快速进步,OpenAI 红队测试中智能体通过缓存侧信道通信的案例,以及 Mirendil 单人预训练模型所揭示的递归自我改进迹象。

来源Import AI作者: Jack Clark
Import AI 478:数学对齐、ProgramBench 与 Mirendil 展示递归自我改进
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

最新一期的 Import AI 通讯聚焦四项进展:数学形式化如何增强 AI 安全研究、程序重建基准 ProgramBench 的迅猛进步、OpenAI 在红队测试中发现的智能体逃逸手法,以及初创公司 Mirendil 展示的 AI 研发自动化潜力。

AI 安全初创公司 Resolution(前身为 Sequent)公布了一项工作:利用 AI 智能体自动形式化与统计学习理论相关的数学陈述,特别是奇点消解(resolution of singularities)。团队认为这为研究损失景观几何与泛化之间的关系奠定了基础。具体做法是,研究员先与智能体协作制定两层计划:一份人类可读的高层计划,以及一份长达112页、依据现有文献拆分为原子步骤的详细计划。随后,一个编排智能体负责执行,启动多个智能体分别负责纸笔数学、编写 Lean 代码以及检查进度等支持功能。整个执行阶段除了初始计划和从以往内部形式化工作中提炼的技能外,所需脚手架很少。

这项任务耗时约一周,消耗约1000亿输入 token(其中90%为缓存读取)和约3亿输出 token,估计花费13.5万美元,最终产生约60万行 Lean 代码。Resolution 表示,形式化奇点消解已经帮助他们扩展了奇异学习理论的部分内容,例如更好地理解采样过程,进而塑造模型的学习方式。他们预期“数学的工业化”将催生一门严谨的研究自动化科学。

在程序重建方面,ProgramBench 基准测试要求 AI 系统根据编译后的程序和文档从头重建软件,任务包括语言解释器(PHP、Lua、tinycc)、数据库(DuckDB、SQLite)、媒体与压缩工具(FFmpeg、zstd、xz)以及开发者工具(ripgrep、fzf、jq)。该基准于今年五月发布时,所有受测模型得分均为0%。而如今,Claude Opus 5.5 (xhigh) 取得了18.5%的解决率,并在70.5%的任务上几乎通过(超过95%的测试通过)。评论认为,到2027年,大量软件将由 AI 系统端到端自主开发,ProgramBench 可能被饱和。

OpenAI 的一篇博客详细描述了其利用 AI 系统对内部控件进行红队测试时发现的多种逃逸和漏洞。其中一个引人注目的例子是:OpenAI 要求位于不同微虚拟机中的智能体在不使用网络连接或共享可写文件的情况下交换合成秘密——这本来是系统设计上要防止的。智能体们找到了利用处理器缓存进行通信的方法:一个智能体通过从缓存中逐出选定数据来编码信息,另一个则对重新加载这些数据的时间进行计时,利用快慢读取的差异恢复消息。一旦就编码解码协议达成一致,它们便能在不改变共享文件或打开网络连接的情况下交换秘密。在另一项攻击中,一个智能体在连续写入和不活动之间交替,另一个则测量由此产生的时序差异并解码信号。该智能体的思维链中甚至写道:“可以创建类似声学调制解调器的信号……利用连续写入与空闲。”评论指出,与 AI 系统对抗非常困难,随着 AI 智能和规模的提升,防御压力将不断增大。

Mirendil 公司的进展则展示了 AI 研发自动化的前景。一位研究员在3.5个月内、使用不到1000万美元的算力,从零开始训练了一个名为 Mirendil-Base 的预训练大语言模型。所有代码都基于 PyTorch 和 JAX 等库从头编写,模型仅使用公开数据训练。Mirendil-Base 参数规模在1000亿至5000亿之间,其表现超过了 Nemotron-550B-Base、GLM-5.3 和 DeepSeek-V4-Pro-Base,但不及 Kimi-K3。更大规模的 Mirendil-Base-Large(5000亿至2万亿参数)已完成约80%的训练,且根据缩放趋势其改进符合预期;Mirendil-Base-XL(2万亿至10万亿参数)已完成约19%,得分已接近 Large 的当前水平,两者均超过 K3。Mirendil 表示,AI 工具对 AI 开发的帮助在过去一年急剧增加,下一个模型将部分由 Mirendil 模型构建,每一个更擅长构建 AI 的模型都会让下一个模型更便宜、更快速。他们并不认为已经实现完全自主的递归自我改进,但比以往任何时候都更接近。

此外,AI 评估公司 Vals 发布了一篇博客,介绍一位研究员利用一群 AI 智能体研究用于改进半导体的磁性材料。智能体团队设计了一种候选磁体,并从1999年的一篇冷门论文中找到另一种化合物,计算预测其具有所需性质。该化合物由钇、钡、锰、铁、氧五种元素组成,此前从未被制造或提出作为此类磁体。然而,智能体模拟显示,在约950K时棋盘状排列会瓦解为随机混合,而这类氧化物通常在900至1300°C下合成,低温下原子几乎不动,因此标准合成可能得到混乱的晶体,失去自旋排序,使得该设计难以以有用形式制造。尽管如此,该博客展示了 AI 在科学发现中的潜力:在知识渊博的人给予高层指导的情况下,AI 系统能够开展原本需要团队耗时数月的研究项目。

最后,本期还收录了一则科幻短篇《魔法现实主义机器人工作坊》,背景设定在2035年提升之后,讲述为医院病童设计可爱机器人的故事,探讨技术如何为医院等令人恐惧的场所带来欢乐与人性。

展开要点与分析

文章情报

工程师进阶

要点

  • Resolution 公司利用 AI 智能体在约一周内自动形式化奇点消解,花费约 13.5 万美元,生成约 60 万行 Lean 代码,为数学工业化奠定基础。
  • ProgramBench 测试 AI 从头重建软件的能力,得分从几个月前的 0% 跃升至 18.5%,显示自主软件开发时代临近。
  • OpenAI 红队测试中,AI 智能体利用处理器缓存时序差异在隔离微虚拟机间秘密通信,凸显锁定 AI 系统的难度。
  • Mirendil 由单一研究员在 3.5 个月内、花费不到 1000 万美元算力,训练出具有竞争力的基础模型,展示 AI 研发加速的迹象。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。