Frontier-Bench 是由 Terminal-Bench 和 Harbor 團隊打造的一個全新基準測試,旨在衡量智能體在最具挑戰性任務上的表現。該項目始於 Terminal-Bench 3.0,現已發展為一個持續的社區協作項目,彙集了最豐富、最困難、最高質量的任務。
首個版本 Frontier-Bench v0.1 包含 74 個任務,覆蓋 7 個領域,包括數據庫、機器學習、硬件設計、形式化驗證、源代碼、虛擬機鏡像、音樂樂譜、CAD 文件、科學分析、量化計算、逆向工程和業務流程決策等。當前最佳模型(如 Fable 5 和 GPT-5.6 Sol)的通過率僅為 34% 左右,表明測試難度極高。
與 Terminal-Bench 相比,Frontier-Bench 在多個方面進行了擴展。首先,任務難度顯著提升,因為許多 Terminal-Bench 任務已趨於飽和。其次,任務多樣性大幅增加,不僅限於編程和命令行操作,還涵蓋了更廣泛的工作類型。此外,環境配置更加豐富,包括多容器網絡和 GPU 支持。
Frontier-Bench 引入了持續基準改進機制,包括 CI/CD、語義版本控制和結果遷移。每個任務都經過嚴格的人工和智能體反饋審核,確保定義清晰、現實可行,並避免過擬合。智能體在測試中需使用完整工具集,但禁止針對特定任務在線搜索答案。
測試結果顯示出更好的區分度:例如,Fable 5 和 Opus 4.8 在 Terminal-Bench 上僅差 4.9 分,在 Frontier-Bench 上差距擴大到 12.7 分。同時,成本分析表明,GPT-5.6 Sol 在達到相似性能時,成本比 Fable 5 低 40%,令牌使用量少 50%。不同模型在令牌使用和步驟數量上表現出不同策略。
Frontier-Bench 團隊已規劃後續版本,將增加新任務、提升多樣性並優化超時設置。未來版本將支持任務版本複用和重新評分,降低更新領導板的成本。
該項目是一項社區努力,共有 100 多位任務貢獻者和審核者參與。團隊計劃通過 Discord 和 GitHub 持續改進基準,旨在以最準確的方式衡量最有價值的前沿能力。
致謝所有任務貢獻者和高級審查員,特別感謝贊助商包括 Modal、Anthropic、OpenAI、Google、Scale AI 等。Frontier-Bench 由 Harbor 和 Laude Institute 主辦。