7個用於編排本地AI代理的Python框架

在本地執行AI代理意味著無需API金鑰、無按令牌計費，且資料不離開網路，但需要與本地模型互動的編排層。本文介紹了2026年工程師實際使用的七種Python工具，它們覆蓋了從模型服務到代理決策的整個流程。

1. Ollama：作為輕量級執行時，Ollama透過OpenAI相容的API簡化本地模型部署，是大多數框架的基礎。它適合單開發者使用，但高併發場景下需搭配vLLM等方案。

1. Smolagents：Hugging Face出品，程式碼僅約1000行，強調最小抽象。它首創CodeAgent，讓代理以程式碼形式行動，並透過Docker等沙箱執行。但小模型（<7B引數）效能下降明顯。

1. PydanticAI：由Pydantic團隊構建，利用型別提示確保代理輸入輸出型別安全，自動驗證和糾正LLM輸出。特別適合需要資料完整性的金融、醫療等領域，且與本地Ollama無縫整合。

1. CrewAI：用於多代理協作的最易上手框架，定義角色和目標後即可組建團隊。它獨立於LangChain，支援Ollama和MCP協議，便於本地模型與標準化工具伺服器互動。

1. AgentScope：面向生產的框架，本地部署是首要選項。它提供沙箱執行、訊息中心架構，確保多代理系統透明可審計。超過27,300顆GitHub星，有兩篇同行評審論文支援。

1. LangGraph：狀態化、可恢復代理迴圈的預設選擇。它與任何OpenAI相容後端配合，支援暫停恢復、時間旅行除錯等。持久化層使本地代理在崩潰後無需從頭開始。

1. Microsoft Agent Framework：AutoGen和Semantic Kernel的統一後繼，提供企業級治理、中介軟體和遙測。直接支援Ollama，適合需要標準化但又希望本地執行的團隊。但非Azure OpenAI提供商可能存在整合問題。

總之，選擇哪個框架取決於主要約束：原型速度（CrewAI）、資料驗證（PydanticAI）、生產治理（AgentScope或MSAF）或長期狀態（LangGraph）。本地執行不再意味著能力妥協。