开源 AI 平台 Orbit：一个后端连接私有数据、模型与工具

Orbit 是一个开源的 AI 后端平台，目标是将私有数据、内部工具和各类模型统一到一个 OpenAI 兼容的 API 之后。它由 Remsy Schmilinsky 维护，以 Apache License 2.0 发布，在 GitHub 上已有 327 星和 56 次 fork，代码仓库包含 2,144 次提交，项目仍在活跃迭代中。与单纯提供聊天界面或模型路由的框架不同，Orbit 把自己定位为一个可以本地运行或部署在自有云环境中的后端服务，内置认证、可观测性和治理能力。

Orbit 的核心思路是“连接一切”。它支持通过自然语言查询文件（PDF、Word、Excel、PPT、CSV、图片等）、SQL/NoSQL 数据库、向量存储、Elasticsearch、REST/GraphQL API，以及 MCP（Model Context Protocol）工具。管理员可以用 YAML 定义适配器（adapter），然后通过一个 OpenAI 兼容端点对外暴露；从本地原型到受管控的正式部署，不需要替换底层架构。

在模型层面，Orbit 更像是一个“模型网关”加上检索与工具执行引擎。它可以把同一个 API 契约路由到本地模型（Ollama、llama.cpp、vLLM），也可以路由到 OpenAI、Anthropic、Gemini、Bedrock、Azure 等云端提供商，并支持在对话中切换模型、自动重试和故障降级。

Orbit 提供了多条 Docker 快速启动路径。本地/离线推荐使用 orbit-ollama 镜像，首次启动会下载约 7.2 GB 的 gemma4:e2b 模型，不需要任何云账号或 API 密钥；云端版本则分别提供 orbit-openai 和 orbit-gemini 镜像，只需在环境中导出 OPENAI_API_KEY 或 GOOGLE_API_KEY，同一个密钥即可驱动聊天、视觉和嵌入模型。容器启动后，5173 端口是 Orbit Chat 界面，3000 端口是 OpenAI 兼容 API，管理员还可以通过 http://localhost:3000/admin 打开管理面板（默认用户名 admin，密码 admin123）。官方提醒，首次运行镜像带有默认数据库和 API 密钥，暴露到 localhost 之外前应尽快更换默认密钥和管理员密码，生产环境务必使用最新稳定版。

Orbit 能构建的应用场景包括：与私有文档对话，基于对话历史跨文件检索上下文；用多种自然语言查询数据库，由 Orbit 生成并安全执行 SQL、MongoDB、Elasticsearch 查询，并将结果可视化；让模型通过 MCP 访问文件系统、Slack、Postgres、GitHub、Jira 等内部工具，在服务端执行有边界限制的多步工具循环，而无需额外接入 agent 框架；还可以把 Orbit 当作一个统一治理的 AI 端点，按每个 API 密钥控制访问、配额、降级、内容审核、指标和审计。

官方强调，Orbit 不只是模型路由，它把 RAG、结构化数据检索、网络搜索和工具执行放在同一个网关后面；它也不只是聊天界面，而是一个可以被任何 OpenAI 兼容客户端调用的后端；它更不是原型框架，而是自带生产级控制面。对于注重隐私的部署，Orbit 支持本地推理、加密文件存储、云密钥管理和完全离线运行。

项目文档还提供了架构说明：Orbit 可接收 REST、OpenAI 兼容、MCP、A2A 或消息队列请求，完成认证与路由之后，把它们分发到模型、私有数据和工具。官方维护了教程、适配器配置指南、文件/向量存储/SQL 数据接入指南、MCP 工具指南、生产部署指南以及 Node.js SDK，便于开发者快速上手。Orbit 欢迎社区贡献，包括新的检索器、云提供商集成、部署指南、测试和文档。