CUBE:一次封裝基準,人人可用智能體AI
CUBE(通用統一基準環境)是一種用於智能體基準測試的最小接口標準,旨在解決當前基準測試碎片化和集成成本高的問題。通過一次封裝,即可在任何兼容平台上用於評估、強化學習訓練或數據生成。項目已有近30位合著者,並得到AI Alliance的支持。
人工智能領域正迎來智能體(Agent)的實用化浪潮。能夠編寫代碼的智能體和實際應用部署,終於將多年的炒作轉化為從業者可以實際使用的工具。社區現在有了真正可以工作的東西。但在這一切勢頭之下,隱藏着一個更安靜的問題:我們坐擁評估和訓練數據的金礦,但其中大部分被工程之牆鎖住。
目前已有307個智能體基準測試。到2026年底,預測將達到500到700個。每個基準都是評估信號和後訓練數據的潛在來源——這種信號難以偽造,從頭生成成本高昂,且經過驗證、有基礎且結構化。然而,問題在於可及性。在基準倉庫與評估或訓練流水線之間,橫亙着一道定製集成工作的牆。N個基準乘以M個平台等於N乘以M個連接器。想要在評估基礎設施上運行OSWorld?需要有人編寫集成代碼。想讓同一個基準也用於強化學習訓練循環?又需要有人再編寫一次。大部分這類工程工作落在了本應做更重要事情的研究人員肩上。
標準化窗口就在現在。基準生態系統今天雖然碎片化,但情況尚可挽救。在307個基準時,社區仍能共同行動。到700個時,多年不兼容的工具已投入生產,改造將變得極其昂貴。標準如果在碎片化鎖定之前到位,就能成功。HTTP在所有Web服務器擁有自己的有線協議之前就已出現。CUBE正是為智能體基準設計同樣的路徑,而GTC 2025的強烈信號表明社區已為此做好準備。
CUBE(Common Unified Benchmark Environments,通用統一基準環境)是一個用於智能體基準的最小接口標準。將基準封裝一次,符合CUBE協議後,就能在任何CUBE兼容平台上運行,用於評估、強化學習訓練或數據生成,無論基礎設施如何。關鍵洞察是將基準的需求與資源的調配分離開來。基準聲明其需求:容器、虛擬機、特定端口、快照。平台負責調度。無論是筆記本電腦、AWS集羣還是HPC系統,都不再是基準需要考慮的問題。CUBE定義了四個接口層級:任務(Task)是核心的智能體-環境交互循環;基準(Benchmark)是共享生命週期管理的任務集合;包(Package)是任務間共享的資源,比如WebArena服務器;註冊表(Registry)用於基準發現和篩選。這不是一個平台,而是底層協議,類似於HTTP之於基準。像NeMo Gym、AgentBeats、Harbor和OpenEnv這樣的平台在功能上競爭,而基準保持可移植性。
該項目在AI Alliance的GitHub上以Apache許可開源,包括[CUBE標準](https://github.com/The-AI-Alliance/cube-standard)和[cube-harness](https://github.com/The-AI-Alliance/cube-harness)。立場論文已在arXiv發佈。代碼現已可用,已有十個CUBE兼容基準完成封裝,涵蓋軟件工程、網頁導航和計算機使用領域。與主流訓練和評估框架的集成正在積極開發中。該項目已吸引來自Mila、McGill、IBM Research、伯克利、CMU、俄亥俄州立大學、HKU等機構的近30位合著者,並得到Graham Neubig、Siva Reddy、Dawn Song、Tao Yu、Yu Su等專家的諮詢支持。這種廣度並非偶然——AI Alliance的存在正是為了匯聚各組織的研究人員、工程師和領域專家來解決此類問題。CUBE正是這一使命的實踐,是一個由跨機構協作構建的社區標準。
CUBE提前發佈,正是因為標準在固化之前由社區塑造才最有用。如果你維護基準、構建評估基礎設施或運行大規模RL訓練,你的反饋將決定CUBE的未來。最簡單的參與方式是[填寫此短表格](https://forms.gle/DGxvw7ixY1wMB53Q9)註冊你的基準,無需任何承諾。如果你想更進一步,最快的技術路徑是:運行cube init my-bench從內置模板搭建,然後cube test my-bench運行合規套件。想深度參與標準制定?核心團隊正在接受希望影響路線圖併為此獲得認可的研究人員和工程師的申請。
資源:
- CUBE標準:https://github.com/The-AI-Alliance/cube-standard
- CUBE harness:https://github.com/The-AI-Alliance/cube-harness
- 立場論文:https://arxiv.org/abs/2603.15798
標準首席架構師:Alexandre Lacoste(ServiceNow AI Research) 實現首席工程師:Nicolas Gontier(ServiceNow AI Research) 主要機構:ServiceNow Research、Silverstream.ai、NVIDIA 諮詢意見來自:Graham Neubig、Siva Reddy、Dawn Song、Tao Yu、Yu Su