下周在 The Sequence:
我们继续连载关于递归自我改进的系列文章。
我们深入剖析 DeepSeek 的推理栈、Google 全新的智能体虚拟机平台等内容。
我们撰写有关 AI 信贷危机的文章。
此外,我们还将推出关于机器人初创公司的精彩章节。
订阅,不要错过:
TheSequence 是一个由读者支持的出版物。要接收新文章并支持我的工作,可以考虑成为免费或付费订阅者。
立即订阅
📝 社论:上周 AI 综述:廉价智能,昂贵野心
人工智能正变得越来越高效,而显然这意味着所有人都需要在它身上花更多钱。本周,DeepSeek 发布了推理软件,NVIDIA 提供了更快的 AI 工厂建设方案,Meta 和 SpaceX 公布了巨额投资,Legora 又募集了 5.5 亿美元来帮助律师工作。预算会议想必开得相当漂亮。
DeepSeek 的贡献是 DeepInfer,即其生产推理服务背后的框架。这次开源发布支持在 NVIDIA 和华为硬件上运行 DeepSeek-V4.1-Flash,采用了先起草 token 再验证、调度与计算重叠等技术。它提供的是推理核心;运营方仍需自行实现缓存和负载均衡,才能构成完整服务。其经济野心直截了当:从昂贵的硬件中榨出更多产出。如果每次请求的服务成本降低,开发者就能负担得起会发起更多请求的智能体。效率可以卖 GPU。智能令人印象深刻。而有更好毛利率的智能,则能得到一张电子表格。
在 GTC Berlin 上,NVIDIA 推出了 DSX POD,一种模块化 Vera Rubin AI 工厂的设计方案。NVIDIA 表示,在已准备好的站点部署时间可从六个月缩短至最快 14 天,合作伙伴交付预计在 2027 年初。已准备站点的资质要求很重要:许可、电力和冷却并不会突然变成可下载的软件。其新的 OpenShell 参考架构增加了用于治理和保护智能体的基础设施。其销售叙事从生产智能,延伸到安装工厂并监督员工。
Meta 提供了证据,表明 AI 可以改善一个已经赚钱的业务。季度营收增长 26% 至 646 亿美元;管理层将广告业务的改善归功于 AI 带来的更好互动和推荐。然而季度资本支出达到 349 亿美元,自由现金流为负 21 亿美元。现有业务帮助为这一野心融资。而这野心正变得极其擅长吸收这些融资。
SpaceX 展现出一种更奇特的企业身份。其 AI 部门现名为 SpaceXSI,季度营收达 75.6 亿美元,超过 Starlink 的 52.5 亿美元。云服务、收购 Cursor 以及 Grok 都为增长做出了贡献。AI 部门报告了 4.31 亿美元的营业利润和 164.4 亿美元的资本支出。你可以经营一家火箭公司,然后发现真正昂贵的扩张项目是帮助人们运行软件。
然后是 Legora,它以 88 亿美元估值融资 5.5 亿美元,并表示年度经常性收入现已超过 2 亿美元。其法律软件指向一种不同的定价逻辑:客户关心的是完成工作的成本。token 也许在变便宜;但律师的一个下午仍然是宝贵的参考价格。其投资逻辑是,拥有工作流就能保留其中一部分差价。这些节省最终归客户还是软件供应商,将是一场有趣的谈判,想必会有律师参与。
连接这些公告的赌注是:更便宜的推理会足够扩大需求,从而证明更多新基础设施的合理性,同时专业化应用能捕获部分价值。这听起来合理。但它也要求区分收入增长与产生这些收入所需资本所带来的有吸引力回报。每个人都可以有一个增长故事。他们仍需就利润归谁达成一致。
🔎 AI 研究
通过 Harness-Policy 优化实现自我进化的编程智能体
AI 实验室:Microsoft Research、University of Virginia、Carnegie Mellon University
摘要:本文介绍了 Self-HPO,一个用于编程智能体的递归自我改进框架,它在优化 harness 与策略模型之间交替进行,进化中的策略在分析自身失败后提出自己的 harness 变更。每一轮选择一个 harness,在其下用强化学习训练策略,并将训练中暴露的难题输入下一轮 harness 搜索。在三个编程基准上,它将 Qwen3.5-35B-A3B 的平均解决率从 57.8% 提升到 64.8%,击败了仅 harness 和仅策略的基线,并显示联合增益大于两者单独增益之和。
Cola2:具有连续语义压缩和均衡离散生成的自适应分层语言建模
AI 实验室:ByteDance Seed、The University of Hong Kong、Peking University、Renmin University of China
摘要:本文介绍了 Cola2,一个分层语言模型,它将连续语义建模与离散文本生成分离:把文本压缩为动态分段的语义跨度,用流匹配先验生成这些潜变量,并通过块因果掩码扩散解码器实现 token,编码器和解码器通过 token 预测梯度协同适应。在由 Qwen3-4B-Base 初始化的解码器下,一个在 3460 亿源 token 上训练但尚未收敛的检查点在八项任务上平均达到 60.10,并在 HellaSwag 和 StoryCloze 上超越 Llama-3-8B,尽管后者报告的预训练预算超过其 43 倍。
Foundation4D:面向自动驾驶汽车的统一感知与重建模型
AI 实验室:NVIDIA
摘要:本文介绍了 Foundation4D,一个统一的前馈模型,可从多摄像头行车视频中估计几何、3D 物体、语义占用和高斯场景重建,使用共享主干网络,跨摄像头和时间采用分解的时空注意力,并采用视频级流水线,通过位姿图优化来精化轨迹并组装物体轨迹。经过针对基准的微调,它在 Waymo 和 nuScenes 上达到最低深度误差,在 nuScenes 检测上达到 60.9 mAP 和 66.5 NDS,在 OpenOccupancy 上达到 27.4 IoU 和 18.1 mIoU;作者还发布了 PAI-Foundation4D,一个包含 1,253 段驾驶视频密集深度和占用标签的基准。
SplatLab:面向 3DGS 研究的自主科学发现
AI 实验室:University of California, San Diego
摘要:本文介绍了 SplatLab,一个面向 3D 高斯泼溅的自主研究系统,它复现已发表的基线,提出扩展,在 Mip-NeRF 360 和 LLFF 上运行训练和消融实验,并撰写手稿,其中每个报告的数字都绑定到一次有记录的训练运行。它通过一个八岛级联加权 Elo 锦标赛进化候选方案,并设有一个常驻证伪器,在候选方案未通过压力测试时扣减 Elo;其手稿在每次运行 24 到 48 小时内,以 0.18 到 3.78 dB PSNR 超越其复现目标,其中包括在天文摄影星云渲染上提升 3.78 dB。
野外智能体世界模型:计算机使用智能体环境合成
AI 实验室:Microsoft Research、UNC-Chapel Hill、Georgia Tech、Northeastern University
摘要:本文介绍了 WildAWM,一个仅使用开源模型的流水线,用于合成基于人物的个人计算机,其中网站、MCP 服务和本地文件共享同一不断演进的状态,然后生成必须通过五道基于执行的质量关卡的跨界面计算机使用任务。由此得到的 341 个长时程环境—任务对可能超过 100 步,而 GPT-6-Astra 仅能解决约 60%;仅在这些世界中训练的 Qwen3.6-35B-A3B 和 Qwen3.5-4B 在全部八个分布外网络、claw 和计算机使用基准上分别平均提升 10.58 和 8.21 分。
检索增强生成的组合性
AI 实验室:IBM、Weizmann Institute of Science
摘要:本文介绍了 LASAGNA,一个用于受控 RAG 评估的开源框架,包含八个可替换的流水线阶段和 55 个内置组件,并用它在八个基准和从 5K 到 200K 文档的语料上测试了 450 种配置。它发现检索增益并不累加:三种预计将 NDCG@10 提升 47% 的技术合在一起仅带来 17% 的提升;而忠实度增益几乎可加,预测 +28%、实际 +32%。此外,在小语料上表现最好的流水线在 200K 文档时落后 13.7%,且排名翻转从 25K 起就已可见。
推进低资源编程语言的编程能力
AI 实验室:OpenAI
摘要:OpenAI 为 COBOL、OCaml、Fortran 和 Visual Basic 等低资源语言的编程引入了两项评估:MultiLangBench,要求模型在 20 种语言上从零构建一个兼容 SQLite 的数据库引擎,并将在 GitHub 上发布;以及一个 COBOL 迁移基准,要求在将程序移植到 C++、Java、Kotlin、Python 或 Rust 后实现逐字节输出一致。GPT-6 Astra 在 MultiLangBench 上达到 87.4% 的平均通过率,相比 GPT-5.6 Sol 的 26.8% 大幅提升,其中 COBOL 从 10.9% 升至 72.1%;而 GPT-6.1 Sol 在低推理强度下于 COBOL 迁移上达到 86.6%(此前为 5.4%),在更高强度下达到 97.9%。
大语言模型正使形式化软件验证在更大规模上变得可行
AI 实验室:Anthropic(Frontier Red Team),与 Theorem 合作
摘要:Anthropic 与 Theorem 合作,使用 Claude 将开发者的模糊测试转化为针对已编译 RISC-V 二进制文件的形式化规约,然后编写证明,显示 123 个开源 OSS-Fuzz 库中的 239 个入口点在小于 64 MB 的任何输入下都不会崩溃,证明总计约 1.8 亿行 Rocq 代码,并由外部证明检查器验证。在此过程中,Claude 修补了数百个模糊测试器不太可能发现的缺陷,包括一个需要约 20 MB 输入的越界写入;团队还发现,在 36 项任务的证明基准上,Opus 5.5 比 Opus 5 少用约 40% 的 token,而共享证明的智能体少用 17% 的 token,同时提醒“形式化验证”并不意味着没有缺陷,因为证明假设的是 Linux 上单线程静态 RISC-V 二进制文件。
🤖 AI 技术发布
DeepSeek DeepInfer
DeepSeek 开源了 DeepInfer,即其生产环境 DeepSeek-V4.1-Flash 服务背后的自研推理框架,以 Apache 2.0 许可发布,包含优化内核、MoE 专家并行、投机解码以及面向 NVIDIA SM100 GPU 和华为 Ascend 950 NPU 的确定性采样。
NVIDIA Run:ai 开源
NVIDIA 将 Run:ai 作为开源项目发布,公开了完整的 GPU 和 AI 工作负载编排平台(Kubernetes 控制平面、集群服务、安装器、CLI 和 MCP 服务器),具备公平份额调度、分数 GPU 分配和多集群管理。
Google Cloud Agent Compute Engine
Google Cloud 推出了 Agent Compute Engine,这是驱动 Gemini 智能体的硬件隔离微虚拟机服务,将在未来几个月进入预览,同时推出用于 GKE 的开源 Agent Substrate 运行时,以及扩展的 Agent Gateway 治理,适用于跨云、本地和端点运行的智能体。
NVIDIA Nemotron 3.5 Super VL 和 Bolt
NVIDIA 发布了 Nemotron 3.5 Super VL,这是一个开放的 120B 参数(12B 激活)多模态模型,面向常开的企业智能体,称其比同类开源模型快至多 5 倍;同时还发布两个边缘模型:用于 RTX 和 DGX Spark 上本地智能体的 Bolt 74B-A9B 24GB,以及用于快速对话智能体的 Bolt E4B 4GB,均于 10 月 23 日推出,全部附带开放权重、数据集和训练配方。
📡 你必须知道的 10 条 AI 新闻
Legora E 轮融资:Legora 以 88 亿美元估值完成 5.5 亿美元 E 轮融资,由 Atreides Management 领投,Fidelity、Capital Group 等参与。