Show HN:Dream Server – 將你的 PC、Mac 或 Linux 機器變成私有 AI 服務器
Dream Server 是一個一鍵安裝的本地 AI 服務器套件,支持 Linux、Windows 和 macOS,集成了模型推理、聊天界面、控制面板、語音、代理、工作流、RAG、圖像生成和隱私工具,無需雲服務或訂閲。
Dream Server 是一個開源項目,旨在讓用户輕鬆在自己的硬件上運行私有 AI 服務器。它通過一個命令安裝並配置所有必要的組件,包括 Ollama、Open WebUI、n8n、ComfyUI 等,省去了手動集成的麻煩。
該項目支持本地模型推理,提供 ChatGPT 風格的 Web 界面,以及一個集中控制面板用於管理模型、服務、GPU 狀態和擴展。此外,它還集成了語音、代理、工作流自動化、檢索增強生成(RAG)、圖像生成和隱私保護工具。所有功能默認在本地運行,無需雲服務或訂閲,除非用户選擇啓用雲或混合模式。
安裝過程非常簡單:Linux 和 macOS 用户只需運行一條 curl 命令,Windows 用户使用 PowerShell 安裝程序。安裝程序會自動檢測 GPU,選擇合適的模型,生成憑據,並啓動所有服務。用户可以在兩分鐘內開始聊天,因為引導模式會立即提供一個可用模型,同時後台下載完整模型。
Dream Server 的核心理念是讓自託管 AI 變得簡單,使每個人都能擁有自己數據的控制權。它適用於希望在家中、實驗室或工作站上使用私有 AI 的人,而不必手動配置多個服務。項目支持 NVIDIA、AMD 和 Intel Arc GPU,以及多種 Linux 發行版,包括 Ubuntu、Debian、Fedora、Arch Linux 等,並提供完善的文檔和社區支持。
該項目還包含豐富的擴展能力,每個服務都是一個擴展,用户可以通過添加文件夾並運行 dream enable 來啓用。此外,Dream Server 還提供了詳細的架構文檔、貢獻指南和安全審計報告,確保項目的透明度和可靠性。
對於沒有 GPU 的用户,Dream Server 也提供雲模式,使用 OpenAI、Anthropic 或 Together 的 API 而非本地推理,只需在安裝時添加 --cloud 參數即可。端口衝突可通過環境變量輕鬆解決。
Dream Server 的發佈驗證流程十分嚴格,涵蓋零前置條件引導、全新安裝、產品流程、全模型能力、生命週期恢復以及最終的用户綠色通道。當前穩定版本為 v2.5.2,主分支用於活躍開發。項目還提供了詳細的安裝信任指南和分叉策略,方便用户驗證安裝包的完整性。
在組件方面,Dream Server 集成了多個知名開源項目:Open WebUI 提供聊天界面,llama-server 負責高性能 LLM 推理,LiteLLM 作為 API 網關,TEI Embeddings 用於文本嵌入;語音方面包含 Whisper 和 Kokoro;自動化和代理方面有 Hermes Agent、n8n、APE 等;知識檢索方面包括 Qdrant、SearXNG、Perplexica;圖像生成通過 ComfyUI 實現;隱私和運維方面提供 Privacy Shield、Dashboard、Token Spy 等。
硬件自動檢測是 Dream Server 的一大亮點:安裝程序會檢測 GPU 並分配硬件層級,然後根據模型庫選擇最適合的 GGUF 模型,最終將配置寫入 .env 文件。默認模型配置為 Qwen,也可選擇 Gemma 4 或自動模式。
總之,Dream Server 通過集成和自動化,大大降低了自託管 AI 的門檻,讓用户能夠快速擁有一個功能完備的私有 AI 服務器。