新型AI代理架構:用狀態機控制LLM,減少偏差與Token成本
Botcircuits是一個開源AI代理,透過將LLM的逐步推理與確定性狀態機結合,實現了可預測且Token高效的多步驟自動化。它提供命令列介面、自然語言編寫工作流、技能模組和MCP支援,顯著降低LLM偏差和Token消耗。
開源專案Botcircuits推出了一種創新的AI代理架構,旨在解決傳統LLM驅動代理中常見的偏差和高Token成本問題。該架構的核心思想是:讓LLM負責每一步的推理和工具呼叫,但透過一個確定性的狀態機來控制整個流程。這種方法既保留了LLM的靈活性,又確保了多步驟自動化的可預測性和效率。
Botcircuits提供了一個功能豐富的命令列介面(CLI),支援互動式和非互動式操作。使用者可以透過簡單的命令進行設定、執行工作流和管理配置。其工作流系統允許使用者用自然語言編寫複雜的多步驟流程:在CLI中使用/workflow add命令,代理會自動將自然語言描述編譯成JSON格式的工作流檔案,並註冊為可呼叫的工具。工作流可以包含條件分支,並且支援從任意步驟開始執行。
除了工作流,Botcircuits還引入了“技能”(Skills)概念。技能是儲存在資料夾中的指令集,代理可以根據描述自動選擇並執行。這避免了頻繁修改系統提示的麻煩,特別適用於重複性任務,如回答常見問題或生成PR描述。同時,Botcircuits支援MCP(Model Context Protocol)伺服器,允許使用者新增外部工具(如檔案系統、GitHub、資料庫等),並透過層次化的配置檔案進行管理。
專案的安裝和配置非常簡單,支援多種Python版本和主流LLM提供商(Anthropic、OpenAI、Gemini)。為了安全起見,API金鑰儲存在獨立的.env檔案中,並支援多級配置覆蓋。Botcircuits的目標是成為可預測、高效的AI代理框架,適用於需要複雜多步驟自動化的場景。該專案在GitHub上開源,並提供了詳細的文件和示例,歡迎開發者貢獻和使用。