Show HN:Dream Server – 将你的 PC、Mac 或 Linux 机器变成私有 AI 服务器
Dream Server 是一个一键安装的本地 AI 服务器套件,支持 Linux、Windows 和 macOS,集成了模型推理、聊天界面、控制面板、语音、代理、工作流、RAG、图像生成和隐私工具,无需云服务或订阅。
Dream Server 是一个开源项目,旨在让用户轻松在自己的硬件上运行私有 AI 服务器。它通过一个命令安装并配置所有必要的组件,包括 Ollama、Open WebUI、n8n、ComfyUI 等,省去了手动集成的麻烦。
该项目支持本地模型推理,提供 ChatGPT 风格的 Web 界面,以及一个集中控制面板用于管理模型、服务、GPU 状态和扩展。此外,它还集成了语音、代理、工作流自动化、检索增强生成(RAG)、图像生成和隐私保护工具。所有功能默认在本地运行,无需云服务或订阅,除非用户选择启用云或混合模式。
安装过程非常简单:Linux 和 macOS 用户只需运行一条 curl 命令,Windows 用户使用 PowerShell 安装程序。安装程序会自动检测 GPU,选择合适的模型,生成凭据,并启动所有服务。用户可以在两分钟内开始聊天,因为引导模式会立即提供一个可用模型,同时后台下载完整模型。
Dream Server 的核心理念是让自托管 AI 变得简单,使每个人都能拥有自己数据的控制权。它适用于希望在家中、实验室或工作站上使用私有 AI 的人,而不必手动配置多个服务。项目支持 NVIDIA、AMD 和 Intel Arc GPU,以及多种 Linux 发行版,包括 Ubuntu、Debian、Fedora、Arch Linux 等,并提供完善的文档和社区支持。
该项目还包含丰富的扩展能力,每个服务都是一个扩展,用户可以通过添加文件夹并运行 dream enable 来启用。此外,Dream Server 还提供了详细的架构文档、贡献指南和安全审计报告,确保项目的透明度和可靠性。
对于没有 GPU 的用户,Dream Server 也提供云模式,使用 OpenAI、Anthropic 或 Together 的 API 而非本地推理,只需在安装时添加 --cloud 参数即可。端口冲突可通过环境变量轻松解决。
Dream Server 的发布验证流程十分严格,涵盖零前置条件引导、全新安装、产品流程、全模型能力、生命周期恢复以及最终的用户绿色通道。当前稳定版本为 v2.5.2,主分支用于活跃开发。项目还提供了详细的安装信任指南和分叉策略,方便用户验证安装包的完整性。
在组件方面,Dream Server 集成了多个知名开源项目:Open WebUI 提供聊天界面,llama-server 负责高性能 LLM 推理,LiteLLM 作为 API 网关,TEI Embeddings 用于文本嵌入;语音方面包含 Whisper 和 Kokoro;自动化和代理方面有 Hermes Agent、n8n、APE 等;知识检索方面包括 Qdrant、SearXNG、Perplexica;图像生成通过 ComfyUI 实现;隐私和运维方面提供 Privacy Shield、Dashboard、Token Spy 等。
硬件自动检测是 Dream Server 的一大亮点:安装程序会检测 GPU 并分配硬件层级,然后根据模型库选择最适合的 GGUF 模型,最终将配置写入 .env 文件。默认模型配置为 Qwen,也可选择 Gemma 4 或自动模式。
总之,Dream Server 通过集成和自动化,大大降低了自托管 AI 的门槛,让用户能够快速拥有一个功能完备的私有 AI 服务器。