CUBE:一次封裝基準,人人可用智慧體AI
CUBE(通用統一基準環境)是一種用於智慧體基準測試的最小介面標準,旨在解決當前基準測試碎片化和整合成本高的問題。透過一次封裝,即可在任何相容平臺上用於評估、強化學習訓練或資料生成。專案已有近30位合著者,並得到AI Alliance的支援。
人工智慧領域正迎來智慧體(Agent)的實用化浪潮。能夠編寫程式碼的智慧體和實際應用部署,終於將多年的炒作轉化為從業者可以實際使用的工具。社群現在有了真正可以工作的東西。但在這一切勢頭之下,隱藏著一個更安靜的問題:我們坐擁評估和訓練資料的金礦,但其中大部分被工程之牆鎖住。
目前已有307個智慧體基準測試。到2026年底,預測將達到500到700個。每個基準都是評估訊號和後訓練資料的潛在來源——這種訊號難以偽造,從頭生成成本高昂,且經過驗證、有基礎且結構化。然而,問題在於可及性。在基準倉庫與評估或訓練流水線之間,橫亙著一道定製整合工作的牆。N個基準乘以M個平臺等於N乘以M個聯結器。想要在評估基礎設施上執行OSWorld?需要有人編寫整合程式碼。想讓同一個基準也用於強化學習訓練迴圈?又需要有人再編寫一次。大部分這類工程工作落在了本應做更重要事情的研究人員肩上。
標準化視窗就在現在。基準生態系統今天雖然碎片化,但情況尚可挽救。在307個基準時,社群仍能共同行動。到700個時,多年不相容的工具已投入生產,改造將變得極其昂貴。標準如果在碎片化鎖定之前到位,就能成功。HTTP在所有Web伺服器擁有自己的有線協議之前就已出現。CUBE正是為智慧體基準設計同樣的路徑,而GTC 2025的強烈訊號表明社群已為此做好準備。
CUBE(Common Unified Benchmark Environments,通用統一基準環境)是一個用於智慧體基準的最小介面標準。將基準封裝一次,符合CUBE協議後,就能在任何CUBE相容平臺上執行,用於評估、強化學習訓練或資料生成,無論基礎設施如何。關鍵洞察是將基準的需求與資源的調配分離開來。基準宣告其需求:容器、虛擬機器、特定埠、快照。平臺負責排程。無論是筆記型電腦、AWS叢集還是HPC系統,都不再是基準需要考慮的問題。CUBE定義了四個介面層級:任務(Task)是核心的智慧體-環境互動迴圈;基準(Benchmark)是共享生命週期管理的任務集合;包(Package)是任務間共享的資源,比如WebArena伺服器;登錄檔(Registry)用於基準發現和篩選。這不是一個平臺,而是底層協議,類似於HTTP之於基準。像NeMo Gym、AgentBeats、Harbor和OpenEnv這樣的平臺在功能上競爭,而基準保持可移植性。
該專案在AI Alliance的GitHub上以Apache許可開源,包括[CUBE標準](https://github.com/The-AI-Alliance/cube-standard)和[cube-harness](https://github.com/The-AI-Alliance/cube-harness)。立場論文已在arXiv釋出。程式碼現已可用,已有十個CUBE相容基準完成封裝,涵蓋軟體工程、網頁導航和計算機使用領域。與主流訓練和評估框架的整合正在積極開發中。該專案已吸引來自Mila、McGill、IBM Research、伯克利、CMU、俄亥俄州立大學、HKU等機構的近30位合著者,並得到Graham Neubig、Siva Reddy、Dawn Song、Tao Yu、Yu Su等專家的諮詢支援。這種廣度並非偶然——AI Alliance的存在正是為了匯聚各組織的研究人員、工程師和領域專家來解決此類問題。CUBE正是這一使命的實踐,是一個由跨機構協作構建的社群標準。
CUBE提前釋出,正是因為標準在固化之前由社群塑造才最有用。如果你維護基準、構建評估基礎設施或執行大規模RL訓練,你的反饋將決定CUBE的未來。最簡單的參與方式是[填寫此短表格](https://forms.gle/DGxvw7ixY1wMB53Q9)註冊你的基準,無需任何承諾。如果你想更進一步,最快的技術路徑是:執行cube init my-bench從內建模板搭建,然後cube test my-bench執行合規套件。想深度參與標準制定?核心團隊正在接受希望影響路線圖併為此獲得認可的研究人員和工程師的申請。
資源:
- CUBE標準:https://github.com/The-AI-Alliance/cube-standard
- CUBE harness:https://github.com/The-AI-Alliance/cube-harness
- 立場論文:https://arxiv.org/abs/2603.15798
標準首席架構師:Alexandre Lacoste(ServiceNow AI Research) 實現首席工程師:Nicolas Gontier(ServiceNow AI Research) 主要機構:ServiceNow Research、Silverstream.ai、NVIDIA 諮詢意見來自:Graham Neubig、Siva Reddy、Dawn Song、Tao Yu、Yu Su