Harbor
Harbor 是一個CLI工具，透過一條命令即可搭建完整的本地LLM棧。它整合了129項服務，包括聊天前端、LLM後端、網路搜尋、語音、影像生成、微調和代理工具，所有服務預配置並可互相協作。該工具開源、MIT許可，支援Linux和macOS。
文章情報
要點
- 一條命令啟動完整的本地AI棧，服務預配置並互通。
- 包含129項服務，涵蓋聊天、LLM、搜尋、語音、影像生成、微調、代理等。
- MIT許可，無遙測，完全本地執行。
為什麼重要
這條新聞值得關注，因為一條命令啟動完整的本地AI棧，服務預配置並互通。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
Harbor 是一款專為簡化本地大型語言模型（LLM）環境配置而設計的命令列工具。它的誕生源於開發者 Ivan 對頻繁除錯 Docker Compose 檔案的厭倦，最初只是一個週末專案，如今已發展成一個包含 129 項服務的強大工具集。
使用 Harbor，使用者只需一條命令即可啟動完整的本地 AI 堆疊。核心功能 'harbor up' 能自動配置 Open WebUI 和 Ollama，若需更多服務，只需追加名稱，如 'harbor up searxng speaches comfyui'，Harbor 會自動處理服務間的連線。這意味著搜尋引擎、語音模組、影像生成等元件無需手動配置即可協同工作。
Harbor 的服務目錄覆蓋廣泛，包括 16 個聊天與創意前端（如 Open WebUI、LibreChat、SillyTavern、ComfyUI 等），21 個 LLM 後端（如 Ollama、llama.cpp、vLLM、SGLang、KTransformers 等），以及 90 多個衛星服務，涵蓋網路搜尋、語音、RAG、向量資料庫、工作流引擎（如 n8n 和 Dify）、微調工具（如 Unsloth）、評估工具和監控等。所有服務均在本地執行，相互通訊，且無需編寫 Docker Compose 檔案或記憶埠。
最新版本引入了 'harbor launch' 功能，可讓 Claude Code、Codex、Copilot 和 OpenCode 等編碼代理直接使用本地堆疊，無需修改任何環境變數。此外，Harbor 還提供 OpenAI 相容的 API，任何支援 OpenAI 的工具或 SDK 均可將其作為本地模型的替代品。
Harbor 採用 MIT 開源許可，無遙測，所有操作均在使用者機器上完成。它提供 CLI 和桌面應用，支援 Linux 和 macOS。對於厭倦手動拼接本地 AI 工具的使用者，Harbor 提供了一個高效、統一的解決方案。