AI News HubLIVE
站内改写

Harbor

Harbor 是一个CLI工具,通过一条命令即可搭建完整的本地LLM栈。它集成了129项服务,包括聊天前端、LLM后端、网络搜索、语音、图像生成、微调和代理工具,所有服务预配置并可互相协作。该工具开源、MIT许可,支持Linux和macOS。

文章情报

工程师进阶

要点

  • 一条命令启动完整的本地AI栈,服务预配置并互通。
  • 包含129项服务,涵盖聊天、LLM、搜索、语音、图像生成、微调、代理等。
  • MIT许可,无遥测,完全本地运行。

为什么重要

这条新闻值得关注,因为一条命令启动完整的本地AI栈,服务预配置并互通。

技术影响

可能影响模型选型、推理成本、产品能力和评测基准。

Harbor 是一款专为简化本地大型语言模型(LLM)环境配置而设计的命令行工具。它的诞生源于开发者 Ivan 对频繁调试 Docker Compose 文件的厌倦,最初只是一个周末项目,如今已发展成一个包含 129 项服务的强大工具集。

使用 Harbor,用户只需一条命令即可启动完整的本地 AI 堆栈。核心功能 'harbor up' 能自动配置 Open WebUI 和 Ollama,若需更多服务,只需追加名称,如 'harbor up searxng speaches comfyui',Harbor 会自动处理服务间的连接。这意味着搜索引擎、语音模块、图像生成等组件无需手动配置即可协同工作。

Harbor 的服务目录覆盖广泛,包括 16 个聊天与创意前端(如 Open WebUI、LibreChat、SillyTavern、ComfyUI 等),21 个 LLM 后端(如 Ollama、llama.cpp、vLLM、SGLang、KTransformers 等),以及 90 多个卫星服务,涵盖网络搜索、语音、RAG、向量数据库、工作流引擎(如 n8n 和 Dify)、微调工具(如 Unsloth)、评估工具和监控等。所有服务均在本地运行,相互通信,且无需编写 Docker Compose 文件或记忆端口。

最新版本引入了 'harbor launch' 功能,可让 Claude Code、Codex、Copilot 和 OpenCode 等编码代理直接使用本地堆栈,无需修改任何环境变量。此外,Harbor 还提供 OpenAI 兼容的 API,任何支持 OpenAI 的工具或 SDK 均可将其作为本地模型的替代品。

Harbor 采用 MIT 开源许可,无遥测,所有操作均在用户机器上完成。它提供 CLI 和桌面应用,支持 Linux 和 macOS。对于厌倦手动拼接本地 AI 工具的用户,Harbor 提供了一个高效、统一的解决方案。