新型AI代理架構:用狀態機控制LLM,減少偏差與Token成本
Botcircuits是一個開源AI代理,通過將LLM的逐步推理與確定性狀態機結合,實現了可預測且Token高效的多步驟自動化。它提供命令行界面、自然語言編寫工作流、技能模塊和MCP支持,顯著降低LLM偏差和Token消耗。
開源項目Botcircuits推出了一種創新的AI代理架構,旨在解決傳統LLM驅動代理中常見的偏差和高Token成本問題。該架構的核心思想是:讓LLM負責每一步的推理和工具調用,但通過一個確定性的狀態機來控制整個流程。這種方法既保留了LLM的靈活性,又確保了多步驟自動化的可預測性和效率。
Botcircuits提供了一個功能豐富的命令行界面(CLI),支持交互式和非交互式操作。用户可以通過簡單的命令進行設置、運行工作流和管理配置。其工作流系統允許用户用自然語言編寫複雜的多步驟流程:在CLI中使用/workflow add命令,代理會自動將自然語言描述編譯成JSON格式的工作流文件,並註冊為可調用的工具。工作流可以包含條件分支,並且支持從任意步驟開始執行。
除了工作流,Botcircuits還引入了“技能”(Skills)概念。技能是存儲在文件夾中的指令集,代理可以根據描述自動選擇並執行。這避免了頻繁修改系統提示的麻煩,特別適用於重複性任務,如回答常見問題或生成PR描述。同時,Botcircuits支持MCP(Model Context Protocol)服務器,允許用户添加外部工具(如文件系統、GitHub、數據庫等),並通過層次化的配置文件進行管理。
項目的安裝和配置非常簡單,支持多種Python版本和主流LLM提供商(Anthropic、OpenAI、Gemini)。為了安全起見,API密鑰存儲在獨立的.env文件中,並支持多級配置覆蓋。Botcircuits的目標是成為可預測、高效的AI代理框架,適用於需要複雜多步驟自動化的場景。該項目在GitHub上開源,並提供了詳細的文檔和示例,歡迎開發者貢獻和使用。