OSymandias:用於多智慧體AI系統的開源執行時
OSymandias 是一個 Python 庫和 CLI 工具,可將你的專案轉變為完整的多人智慧體執行時。它內建 PostgreSQL、Redis、RabbitMQ 和 Qdrant,透過 Docker 管理。提供儀表盤、API、工具裝飾器、智慧體支援、上下文管理等功能,支援多種 LLM 提供商。
OSymandias 是一個開源的 Python 庫和命令列工具,旨在簡化為專案構建多智慧體 AI 系統的過程。它透過一個名為 osy serve 的命令,自動啟動所需的中介軟體(如 PostgreSQL、Redis、RabbitMQ、Qdrant)並執行一個基於 FastAPI 的 API 伺服器和一個 Celery 工作叢集,從而為使用者提供一個完整的執行時環境。使用者只需安裝 Python 3.11+ 和 Docker,執行 pip install osymandias 即可開始使用。
該專案的核心特性之一是其簡潔的裝飾器 API。使用者可以使用 @osy.tool 將任何 Python 函式變為智慧體可呼叫的工具,型別提示會自動生成模式。同時,@osy.agent 裝飾器允許將外部的智慧體(如 LangChain 鏈、CrewAI 團隊或 LlamaIndex 查詢引擎)註冊為平臺智慧體,並支援可選的後設資料(如框架名稱、描述、LLM 提供商等),用於儀表盤展示。
OSymandias 提供了一個全面的上下文物件 OsyContext,使智慧體能夠實現共享記憶體、發出即時事件、生成子任務並等待結果。這些子任務會在儀表盤上以樹狀結構顯示,支援複雜的作業編排。作業由 Planner 智慧體自動分解為任務,並由 Evaluator 智慧體評估輸出質量,若置信度低於閾值則重試。
儀表盤提供了多個頁面,包括作業列表、作業詳情(含輸出、事件和子任務時間線)、智慧體註冊、工具管理、記憶體搜尋、即時事件流和效能指標圖表。使用者可以透過 REST API 或儀表盤手動提交作業,支援自然語言描述或顯式任務計劃。
OSymandias 支援多種 LLM 提供商,包括 OpenAI、Anthropic、DeepSeek、Groq、Gemini 及本地 Ollama 模型。每個智慧體可獨立選擇模型,無需重啟。該專案使用 MIT 許可證,程式碼託管在 GitHub 上,歡迎社群貢獻。