OSymandias:用于多智能体AI系统的开源运行时
OSymandias 是一个 Python 库和 CLI 工具,可将你的项目转变为完整的多人智能体运行时。它内置 PostgreSQL、Redis、RabbitMQ 和 Qdrant,通过 Docker 管理。提供仪表盘、API、工具装饰器、智能体支持、上下文管理等功能,支持多种 LLM 提供商。
OSymandias 是一个开源的 Python 库和命令行工具,旨在简化为项目构建多智能体 AI 系统的过程。它通过一个名为 osy serve 的命令,自动启动所需的中间件(如 PostgreSQL、Redis、RabbitMQ、Qdrant)并运行一个基于 FastAPI 的 API 服务器和一个 Celery 工作集群,从而为用户提供一个完整的运行时环境。用户只需安装 Python 3.11+ 和 Docker,运行 pip install osymandias 即可开始使用。
该项目的核心特性之一是其简洁的装饰器 API。用户可以使用 @osy.tool 将任何 Python 函数变为智能体可调用的工具,类型提示会自动生成模式。同时,@osy.agent 装饰器允许将外部的智能体(如 LangChain 链、CrewAI 团队或 LlamaIndex 查询引擎)注册为平台智能体,并支持可选的元数据(如框架名称、描述、LLM 提供商等),用于仪表盘展示。
OSymandias 提供了一个全面的上下文对象 OsyContext,使智能体能够实现共享内存、发出实时事件、生成子任务并等待结果。这些子任务会在仪表盘上以树状结构显示,支持复杂的作业编排。作业由 Planner 智能体自动分解为任务,并由 Evaluator 智能体评估输出质量,若置信度低于阈值则重试。
仪表盘提供了多个页面,包括作业列表、作业详情(含输出、事件和子任务时间线)、智能体注册、工具管理、内存搜索、实时事件流和性能指标图表。用户可以通过 REST API 或仪表盘手动提交作业,支持自然语言描述或显式任务计划。
OSymandias 支持多种 LLM 提供商,包括 OpenAI、Anthropic、DeepSeek、Groq、Gemini 及本地 Ollama 模型。每个智能体可独立选择模型,无需重启。该项目使用 MIT 许可证,代码托管在 GitHub 上,欢迎社区贡献。