跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

AOS-Bench:LLM智慧體能管理動態工作負載嗎?

文章摘要

AOS-Bench將編碼智慧體視為工作負載管理器,在共享CPU和記憶體限制下評估其處理隨時間到達的任務流的能力。研究發現,隔離任務的成功並不能均勻地遷移到流式場景;重負載下所有系統下降13-23分,序列排程導致73%的重負載任務未被認領;而固定併發度為2的策略與最佳智慧體管理策略相差不到4分。

來源arXiv AI作者: Erle Zhu, Genrui Zhang, Keyang Hu, Mingyu Su, Hongning Wang
AOS-Bench:LLM智慧體能管理動態工作負載嗎?
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

AOS-Bench:LLM 智慧體能管理動態工作負載嗎?

arXiv 上釋出的一篇新論文(arXiv:2610.33178,cs.AI)由 Erle Zhu 與另外四位作者提交,探討編碼智慧體從“一次處理一個請求”轉向成為持續執行的助手這一轉變。現實中的使用場景往往是:使用者在同一個機器上同時託付一串工作——一次構建、一個資料處理任務、一個 bug 修復可能都處於待處理狀態。這樣的智慧體必須自行決定何時接取新任務、如何委派與並行重疊,以及如何在機器的 CPU 與記憶體限制內完成任務。現有基準無法衡量這一點,因為它們把每個任務隔離起來單獨評估。

為此,作者提出 AOS-Bench,把智慧體系統當作“工作負載管理器”來評測:經過驗證的任務隨時間陸續到達,必須在共享的 CPU 與記憶體上限下交付完成;作為參照,同一批任務以一次一個的方式執行,形成每個系統自身的基準線。

在五組“模型—執行框架”組合上的結果顯示,隔離環境下的任務成功率並不能均勻地遷移到流式負載場景。在重型工作負載下,每個系統都會損失 13 到 23 分。在中等負載下,各系統在隔離成功率上的差距為 11 分,但在流式場景中的差距擴大到 26 分;有兩個系統在隔離測試中僅相差 0.6 分,卻分別完成了同一批任務的 54% 和 68%。

針對執行策略的干預實驗把這一差距很大程度上歸因於任務接取環節:序列排程會讓重型負載下 73% 的任務無人認領。然而,更復雜的管理機制未必帶來幫助——固定併發度為 2 的策略在中等和重型負載下都與最佳的智慧體自主管理策略相差不超過 4 分。此外,在所有策略下,當任務處於等待狀態時,CPU 使用率的中位數始終低於所配置核心數的 30%。

這些結果說明,工作負載管理應被視為智慧體的一項獨立能力,而 AOS-Bench 提供了衡量這一能力的手段。該論文於 2026 年 10 月 23 日提交,DOI 為 10.48550/arXiv.2610.33178,可透過 arXiv 獲取 PDF、實驗性 HTML 版本及 TeX 原始碼。

展開要點與分析

文章情報

工程師進階

要點

  • AOS-Bench評估智慧體作為工作負載管理器,任務隨時間到達並需在共享CPU和記憶體限制下完成。
  • 在重負載下,所有系統任務成功率下降13-23分;序列排程使73%的任務未被認領。
  • 固定併發度為2的策略與最佳智慧體管理策略相差不到4分,表明複雜管理未必更優。
  • 任務等待期間,所有策略下CPU使用率中位數低於配置核心數的30%。

技術影響

可能影響 Agent 架構、工具呼叫、工作流自動化和產品整合。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。