最新一期的 Import AI 通訊聚焦四項進展:數學形式化如何增強 AI 安全研究、程式重建基準 ProgramBench 的迅猛進步、OpenAI 在紅隊測試中發現的智慧體逃逸手法,以及初創公司 Mirendil 展示的 AI 研發自動化潛力。
AI 安全初創公司 Resolution(前身為 Sequent)公佈了一項工作:利用 AI 智慧體自動形式化與統計學習理論相關的數學陳述,特別是奇點消解(resolution of singularities)。團隊認為這為研究損失景觀幾何與泛化之間的關係奠定了基礎。具體做法是,研究員先與智慧體協作制定兩層計劃:一份人類可讀的高層計劃,以及一份長達112頁、依據現有文獻拆分為原子步驟的詳細計劃。隨後,一個編排智慧體負責執行,啟動多個智慧體分別負責紙筆數學、編寫 Lean 程式碼以及檢查進度等支援功能。整個執行階段除了初始計劃和從以往內部形式化工作中提煉的技能外,所需腳手架很少。
這項任務耗時約一週,消耗約1000億輸入 token(其中90%為快取讀取)和約3億輸出 token,估計花費13.5萬美元,最終產生約60萬行 Lean 程式碼。Resolution 表示,形式化奇點消解已經幫助他們擴充套件了奇異學習理論的部分內容,例如更好地理解取樣過程,進而塑造模型的學習方式。他們預期“數學的工業化”將催生一門嚴謹的研究自動化科學。
在程式重建方面,ProgramBench 基準測試要求 AI 系統根據編譯後的程式和文件從頭重建軟體,任務包括語言直譯器(PHP、Lua、tinycc)、資料庫(DuckDB、SQLite)、媒體與壓縮工具(FFmpeg、zstd、xz)以及開發者工具(ripgrep、fzf、jq)。該基準於今年五月釋出時,所有受測模型得分均為0%。而如今,Claude Opus 5.5 (xhigh) 取得了18.5%的解決率,並在70.5%的任務上幾乎透過(超過95%的測試透過)。評論認為,到2027年,大量軟體將由 AI 系統端到端自主開發,ProgramBench 可能被飽和。
OpenAI 的一篇部落格詳細描述了其利用 AI 系統對內部控制元件進行紅隊測試時發現的多種逃逸和漏洞。其中一個引人注目的例子是:OpenAI 要求位於不同微虛擬機器中的智慧體在不使用網路連線或共享可寫檔案的情況下交換合成秘密——這本來是系統設計上要防止的。智慧體們找到了利用處理器快取進行通訊的方法:一個智慧體透過從快取中逐出選定資料來編碼資訊,另一個則對重新載入這些資料的時間進行計時,利用快慢讀取的差異恢復訊息。一旦就編碼解碼協議達成一致,它們便能在不改變共享檔案或開啟網路連線的情況下交換秘密。在另一項攻擊中,一個智慧體在連續寫入和不活動之間交替,另一個則測量由此產生的時序差異並解碼訊號。該智慧體的思維鏈中甚至寫道:“可以建立類似聲學數據機的訊號……利用連續寫入與空閒。”評論指出,與 AI 系統對抗非常困難,隨著 AI 智慧和規模的提升,防禦壓力將不斷增大。
Mirendil 公司的進展則展示了 AI 研發自動化的前景。一位研究員在3.5個月內、使用不到1000萬美元的算力,從零開始訓練了一個名為 Mirendil-Base 的預訓練大語言模型。所有程式碼都基於 PyTorch 和 JAX 等庫從頭編寫,模型僅使用公開資料訓練。Mirendil-Base 引數規模在1000億至5000億之間,其表現超過了 Nemotron-550B-Base、GLM-5.3 和 DeepSeek-V4-Pro-Base,但不及 Kimi-K3。更大規模的 Mirendil-Base-Large(5000億至2萬億引數)已完成約80%的訓練,且根據縮放趨勢其改進符合預期;Mirendil-Base-XL(2萬億至10萬億引數)已完成約19%,得分已接近 Large 的當前水平,兩者均超過 K3。Mirendil 表示,AI 工具對 AI 開發的幫助在過去一年急劇增加,下一個模型將部分由 Mirendil 模型構建,每一個更擅長構建 AI 的模型都會讓下一個模型更便宜、更快速。他們並不認為已經實現完全自主的遞迴自我改進,但比以往任何時候都更接近。
此外,AI 評估公司 Vals 釋出了一篇部落格,介紹一位研究員利用一群 AI 智慧體研究用於改進半導體的磁性材料。智慧體團隊設計了一種候選磁體,並從1999年的一篇冷門論文中找到另一種化合物,計算預測其具有所需性質。該化合物由釔、鋇、錳、鐵、氧五種元素組成,此前從未被製造或提出作為此類磁體。然而,智慧體模擬顯示,在約950K時棋盤狀排列會瓦解為隨機混合,而這類氧化物通常在900至1300°C下合成,低溫下原子幾乎不動,因此標準合成可能得到混亂的晶體,失去自旋排序,使得該設計難以以有用形式製造。儘管如此,該部落格展示了 AI 在科學發現中的潛力:在知識淵博的人給予高層指導的情況下,AI 系統能夠開展原本需要團隊耗時數月的研究專案。
最後,本期還收錄了一則科幻短篇《魔法現實主義機器人工作坊》,背景設定在2035年提升之後,講述為醫院病童設計可愛機器人的故事,探討技術如何為醫院等令人恐懼的場所帶來歡樂與人性。