新型AI代理架构:用状态机控制LLM,减少偏差与Token成本
Botcircuits是一个开源AI代理,通过将LLM的逐步推理与确定性状态机结合,实现了可预测且Token高效的多步骤自动化。它提供命令行界面、自然语言编写工作流、技能模块和MCP支持,显著降低LLM偏差和Token消耗。
开源项目Botcircuits推出了一种创新的AI代理架构,旨在解决传统LLM驱动代理中常见的偏差和高Token成本问题。该架构的核心思想是:让LLM负责每一步的推理和工具调用,但通过一个确定性的状态机来控制整个流程。这种方法既保留了LLM的灵活性,又确保了多步骤自动化的可预测性和效率。
Botcircuits提供了一个功能丰富的命令行界面(CLI),支持交互式和非交互式操作。用户可以通过简单的命令进行设置、运行工作流和管理配置。其工作流系统允许用户用自然语言编写复杂的多步骤流程:在CLI中使用/workflow add命令,代理会自动将自然语言描述编译成JSON格式的工作流文件,并注册为可调用的工具。工作流可以包含条件分支,并且支持从任意步骤开始执行。
除了工作流,Botcircuits还引入了“技能”(Skills)概念。技能是存储在文件夹中的指令集,代理可以根据描述自动选择并执行。这避免了频繁修改系统提示的麻烦,特别适用于重复性任务,如回答常见问题或生成PR描述。同时,Botcircuits支持MCP(Model Context Protocol)服务器,允许用户添加外部工具(如文件系统、GitHub、数据库等),并通过层次化的配置文件进行管理。
项目的安装和配置非常简单,支持多种Python版本和主流LLM提供商(Anthropic、OpenAI、Gemini)。为了安全起见,API密钥存储在独立的.env文件中,并支持多级配置覆盖。Botcircuits的目标是成为可预测、高效的AI代理框架,适用于需要复杂多步骤自动化的场景。该项目在GitHub上开源,并提供了详细的文档和示例,欢迎开发者贡献和使用。