arXiv最新論文《GraphBit: A Graph-based Agentic Framework for Non-Linear Agent Orchestration》提出了一種全新的智慧體編排框架，旨在解決現有大語言模型（LLM）智慧體框架中的關鍵缺陷。當前主流框架通常依賴提示編排（prompt orchestration），即由模型自身決定工作流轉換，這容易導致幻覺路由、無限迴圈以及執行結果不可重複等問題。GraphBit透過引入引擎編排的方式，將工作流明確且確定性地定義為有向無環圖（DAG），從根本上消除了這些不確定性。
在GraphBit中，智慧體被設計為型別化函式，而一個基於Rust構建的引擎負責管理路由、狀態轉換和工具呼叫。這一設計確保了執行過程的可重複性和可審計性。引擎支援並行分支執行、基於結構化狀態謂詞的條件控制流，以及可配置的錯誤恢復機制。此外，GraphBit採用三層記憶架構：臨時暫存空間、結構化狀態和外部聯結器，將不同階段的上下文隔離開來，防止長管線中因上下文級聯膨脹而導致的推理能力下降。該架構包括短暫的暫存空間用於中間結果儲存，結構化狀態用於維護持久化資訊，以及外部聯結器用於與外部系統互動，從而實現在複雜任務中的高效上下文管理。
研究團隊在GAIA基準測試上對GraphBit進行了全面評估，測試任務涵蓋零工具、文件增強和網頁啟用三種工作流型別，共覆蓋六種對比框架。結果顯示，GraphBit在準確率上達到67.6%，實現了零框架誘導的幻覺，延遲僅為11.9毫秒（額外開銷），並取得了最高吞吐量，顯著優於六個現有框架。消融研究進一步表明，每一層記憶架構都對效能有可量化的貢獻，而確定性執行在工具密集型任務（代表真實部署場景）中帶來的增益最為顯著。該框架的提出為構建可靠、高效的LLM智慧體系統提供了新思路，尤其適用於需要可重複性和可審計性的生產環境。