arXiv最新论文《GraphBit: A Graph-based Agentic Framework for Non-Linear Agent Orchestration》提出了一种全新的智能体编排框架，旨在解决现有大语言模型（LLM）智能体框架中的关键缺陷。当前主流框架通常依赖提示编排（prompt orchestration），即由模型自身决定工作流转换，这容易导致幻觉路由、无限循环以及执行结果不可重复等问题。GraphBit通过引入引擎编排的方式，将工作流明确且确定性地定义为有向无环图（DAG），从根本上消除了这些不确定性。
在GraphBit中，智能体被设计为类型化函数，而一个基于Rust构建的引擎负责管理路由、状态转换和工具调用。这一设计确保了执行过程的可重复性和可审计性。引擎支持并行分支执行、基于结构化状态谓词的条件控制流，以及可配置的错误恢复机制。此外，GraphBit采用三层记忆架构：临时暂存空间、结构化状态和外部连接器，将不同阶段的上下文隔离开来，防止长管线中因上下文级联膨胀而导致的推理能力下降。该架构包括短暂的暂存空间用于中间结果存储，结构化状态用于维护持久化信息，以及外部连接器用于与外部系统交互，从而实现在复杂任务中的高效上下文管理。
研究团队在GAIA基准测试上对GraphBit进行了全面评估，测试任务涵盖零工具、文档增强和网页启用三种工作流类型，共覆盖六种对比框架。结果显示，GraphBit在准确率上达到67.6%，实现了零框架诱导的幻觉，延迟仅为11.9毫秒（额外开销），并取得了最高吞吐量，显著优于六个现有框架。消融研究进一步表明，每一层记忆架构都对性能有可量化的贡献，而确定性执行在工具密集型任务（代表真实部署场景）中带来的增益最为显著。该框架的提出为构建可靠、高效的LLM智能体系统提供了新思路，尤其适用于需要可重复性和可审计性的生产环境。