下週在 The Sequence:
我們繼續連載關於遞歸自我改進的系列文章。
我們深入剖析 DeepSeek 的推理棧、Google 全新的智能體虛擬機平台等內容。
我們撰寫有關 AI 信貸危機的文章。
此外,我們還將推出關於機器人初創公司的精彩章節。
訂閲,不要錯過:
TheSequence 是一個由讀者支持的出版物。要接收新文章並支持我的工作,可以考慮成為免費或付費訂閲者。
立即訂閲
📝 社論:上週 AI 綜述:廉價智能,昂貴野心
人工智能正變得越來越高效,而顯然這意味着所有人都需要在它身上花更多錢。本週,DeepSeek 發佈了推理軟件,NVIDIA 提供了更快的 AI 工廠建設方案,Meta 和 SpaceX 公佈了鉅額投資,Legora 又募集了 5.5 億美元來幫助律師工作。預算會議想必開得相當漂亮。
DeepSeek 的貢獻是 DeepInfer,即其生產推理服務背後的框架。這次開源發佈支持在 NVIDIA 和華為硬件上運行 DeepSeek-V4.1-Flash,採用了先起草 token 再驗證、調度與計算重疊等技術。它提供的是推理核心;運營方仍需自行實現緩存和負載均衡,才能構成完整服務。其經濟野心直截了當:從昂貴的硬件中榨出更多產出。如果每次請求的服務成本降低,開發者就能負擔得起會發起更多請求的智能體。效率可以賣 GPU。智能令人印象深刻。而有更好毛利率的智能,則能得到一張電子表格。
在 GTC Berlin 上,NVIDIA 推出了 DSX POD,一種模塊化 Vera Rubin AI 工廠的設計方案。NVIDIA 表示,在已準備好的站點部署時間可從六個月縮短至最快 14 天,合作伙伴交付預計在 2027 年初。已準備站點的資質要求很重要:許可、電力和冷卻並不會突然變成可下載的軟件。其新的 OpenShell 參考架構增加了用於治理和保護智能體的基礎設施。其銷售敍事從生產智能,延伸到安裝工廠並監督員工。
Meta 提供了證據,表明 AI 可以改善一個已經賺錢的業務。季度營收增長 26% 至 646 億美元;管理層將廣告業務的改善歸功於 AI 帶來的更好互動和推薦。然而季度資本支出達到 349 億美元,自由現金流為負 21 億美元。現有業務幫助為這一野心融資。而這野心正變得極其擅長吸收這些融資。
SpaceX 展現出一種更奇特的企業身份。其 AI 部門現名為 SpaceXSI,季度營收達 75.6 億美元,超過 Starlink 的 52.5 億美元。雲服務、收購 Cursor 以及 Grok 都為增長做出了貢獻。AI 部門報告了 4.31 億美元的營業利潤和 164.4 億美元的資本支出。你可以經營一家火箭公司,然後發現真正昂貴的擴張項目是幫助人們運行軟件。
然後是 Legora,它以 88 億美元估值融資 5.5 億美元,並表示年度經常性收入現已超過 2 億美元。其法律軟件指向一種不同的定價邏輯:客户關心的是完成工作的成本。token 也許在變便宜;但律師的一個下午仍然是寶貴的參考價格。其投資邏輯是,擁有工作流就能保留其中一部分差價。這些節省最終歸客户還是軟件供應商,將是一場有趣的談判,想必會有律師參與。
連接這些公告的賭注是:更便宜的推理會足夠擴大需求,從而證明更多新基礎設施的合理性,同時專業化應用能捕獲部分價值。這聽起來合理。但它也要求區分收入增長與產生這些收入所需資本所帶來的有吸引力回報。每個人都可以有一個增長故事。他們仍需就利潤歸誰達成一致。
🔎 AI 研究
通過 Harness-Policy 優化實現自我進化的編程智能體
AI 實驗室:Microsoft Research、University of Virginia、Carnegie Mellon University
摘要:本文介紹了 Self-HPO,一個用於編程智能體的遞歸自我改進框架,它在優化 harness 與策略模型之間交替進行,進化中的策略在分析自身失敗後提出自己的 harness 變更。每一輪選擇一個 harness,在其下用強化學習訓練策略,並將訓練中暴露的難題輸入下一輪 harness 搜索。在三個編程基準上,它將 Qwen3.5-35B-A3B 的平均解決率從 57.8% 提升到 64.8%,擊敗了僅 harness 和僅策略的基線,並顯示聯合增益大於兩者單獨增益之和。
Cola2:具有連續語義壓縮和均衡離散生成的自適應分層語言建模
AI 實驗室:ByteDance Seed、The University of Hong Kong、Peking University、Renmin University of China
摘要:本文介紹了 Cola2,一個分層語言模型,它將連續語義建模與離散文本生成分離:把文本壓縮為動態分段的語義跨度,用流匹配先驗生成這些潛變量,並通過塊因果掩碼擴散解碼器實現 token,編碼器和解碼器通過 token 預測梯度協同適應。在由 Qwen3-4B-Base 初始化的解碼器下,一個在 3460 億源 token 上訓練但尚未收斂的檢查點在八項任務上平均達到 60.10,並在 HellaSwag 和 StoryCloze 上超越 Llama-3-8B,儘管後者報告的預訓練預算超過其 43 倍。
Foundation4D:面向自動駕駛汽車的統一感知與重建模型
AI 實驗室:NVIDIA
摘要:本文介紹了 Foundation4D,一個統一的前饋模型,可從多攝像頭行車視頻中估計幾何、3D 物體、語義佔用和高斯場景重建,使用共享主幹網絡,跨攝像頭和時間採用分解的時空注意力,並採用視頻級流水線,通過位姿圖優化來精化軌跡並組裝物體軌跡。經過針對基準的微調,它在 Waymo 和 nuScenes 上達到最低深度誤差,在 nuScenes 檢測上達到 60.9 mAP 和 66.5 NDS,在 OpenOccupancy 上達到 27.4 IoU 和 18.1 mIoU;作者還發布了 PAI-Foundation4D,一個包含 1,253 段駕駛視頻密集深度和佔用標籤的基準。
SplatLab:面向 3DGS 研究的自主科學發現
AI 實驗室:University of California, San Diego
摘要:本文介紹了 SplatLab,一個面向 3D 高斯潑濺的自主研究系統,它復現已發表的基線,提出擴展,在 Mip-NeRF 360 和 LLFF 上運行訓練和消融實驗,並撰寫手稿,其中每個報告的數字都綁定到一次有記錄的訓練運行。它通過一個八島級聯加權 Elo 錦標賽進化候選方案,並設有一個常駐證偽器,在候選方案未通過壓力測試時扣減 Elo;其手稿在每次運行 24 到 48 小時內,以 0.18 到 3.78 dB PSNR 超越其復現目標,其中包括在天文攝影星雲渲染上提升 3.78 dB。
野外智能體世界模型:計算機使用智能體環境合成
AI 實驗室:Microsoft Research、UNC-Chapel Hill、Georgia Tech、Northeastern University
摘要:本文介紹了 WildAWM,一個僅使用開源模型的流水線,用於合成基於人物的個人計算機,其中網站、MCP 服務和本地文件共享同一不斷演進的狀態,然後生成必須通過五道基於執行的質量關卡的跨界面計算機使用任務。由此得到的 341 個長時程環境—任務對可能超過 100 步,而 GPT-6-Astra 僅能解決約 60%;僅在這些世界中訓練的 Qwen3.6-35B-A3B 和 Qwen3.5-4B 在全部八個分佈外網絡、claw 和計算機使用基準上分別平均提升 10.58 和 8.21 分。
檢索增強生成的組合性
AI 實驗室:IBM、Weizmann Institute of Science
摘要:本文介紹了 LASAGNA,一個用於受控 RAG 評估的開源框架,包含八個可替換的流水線階段和 55 個內置組件,並用它在八個基準和從 5K 到 200K 文檔的語料上測試了 450 種配置。它發現檢索增益並不累加:三種預計將 NDCG@10 提升 47% 的技術合在一起僅帶來 17% 的提升;而忠實度增益幾乎可加,預測 +28%、實際 +32%。此外,在小語料上表現最好的流水線在 200K 文檔時落後 13.7%,且排名翻轉從 25K 起就已可見。
推進低資源編程語言的編程能力
AI 實驗室:OpenAI
摘要:OpenAI 為 COBOL、OCaml、Fortran 和 Visual Basic 等低資源語言的編程引入了兩項評估:MultiLangBench,要求模型在 20 種語言上從零構建一個兼容 SQLite 的數據庫引擎,並將在 GitHub 上發佈;以及一個 COBOL 遷移基準,要求在將程序移植到 C++、Java、Kotlin、Python 或 Rust 後實現逐字節輸出一致。GPT-6 Astra 在 MultiLangBench 上達到 87.4% 的平均通過率,相比 GPT-5.6 Sol 的 26.8% 大幅提升,其中 COBOL 從 10.9% 升至 72.1%;而 GPT-6.1 Sol 在低推理強度下於 COBOL 遷移上達到 86.6%(此前為 5.4%),在更高強度下達到 97.9%。
大語言模型正使形式化軟件驗證在更大規模上變得可行
AI 實驗室:Anthropic(Frontier Red Team),與 Theorem 合作
摘要:Anthropic 與 Theorem 合作,使用 Claude 將開發者的模糊測試轉化為針對已編譯 RISC-V 二進制文件的形式化規約,然後編寫證明,顯示 123 個開源 OSS-Fuzz 庫中的 239 個入口點在小於 64 MB 的任何輸入下都不會崩潰,證明總計約 1.8 億行 Rocq 代碼,並由外部證明檢查器驗證。在此過程中,Claude 修補了數百個模糊測試器不太可能發現的缺陷,包括一個需要約 20 MB 輸入的越界寫入;團隊還發現,在 36 項任務的證明基準上,Opus 5.5 比 Opus 5 少用約 40% 的 token,而共享證明的智能體少用 17% 的 token,同時提醒“形式化驗證”並不意味着沒有缺陷,因為證明假設的是 Linux 上單線程靜態 RISC-V 二進制文件。
🤖 AI 技術發佈
DeepSeek DeepInfer
DeepSeek 開源了 DeepInfer,即其生產環境 DeepSeek-V4.1-Flash 服務背後的自研推理框架,以 Apache 2.0 許可發佈,包含優化內核、MoE 專家並行、投機解碼以及面向 NVIDIA SM100 GPU 和華為 Ascend 950 NPU 的確定性採樣。
NVIDIA Run:ai 開源
NVIDIA 將 Run:ai 作為開源項目發佈,公開了完整的 GPU 和 AI 工作負載編排平台(Kubernetes 控制平面、集羣服務、安裝器、CLI 和 MCP 服務器),具備公平份額調度、分數 GPU 分配和多集羣管理。
Google Cloud Agent Compute Engine
Google Cloud 推出了 Agent Compute Engine,這是驅動 Gemini 智能體的硬件隔離微虛擬機服務,將在未來幾個月進入預覽,同時推出用於 GKE 的開源 Agent Substrate 運行時,以及擴展的 Agent Gateway 治理,適用於跨雲、本地和端點運行的智能體。
NVIDIA Nemotron 3.5 Super VL 和 Bolt
NVIDIA 發佈了 Nemotron 3.5 Super VL,這是一個開放的 120B 參數(12B 激活)多模態模型,面向常開的企業智能體,稱其比同類開源模型快至多 5 倍;同時還發布兩個邊緣模型:用於 RTX 和 DGX Spark 上本地智能體的 Bolt 74B-A9B 24GB,以及用於快速對話智能體的 Bolt E4B 4GB,均於 10 月 23 日推出,全部附帶開放權重、數據集和訓練配方。
📡 你必須知道的 10 條 AI 新聞
Legora E 輪融資:Legora 以 88 億美元估值完成 5.5 億美元 E 輪融資,由 Atreides Management 領投,Fidelity、Capital Group 等參與。