我放弃了ChatGPT，选择了免费、隐私、本地的AI——Ollama，原因在此
Ollama是一款免费、开源、可本地安装的AI工具，提供隐私保护、离线访问和灵活性。它运行在你的个人硬件上，减少环境影响，让你掌控数据。
文章情报
工程师进阶
要点
- Ollama免费、私密且开源。
- 它在本地运行，使用你自己的硬件。
- 可以访问多种不同的LLM模型。
- 支持离线使用和局域网部署。
为什么重要
这条新闻值得关注，因为Ollama免费、私密且开源。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
Ollama是一个免费且开源的人工智能工具，支持在Linux、macOS和Windows系统上安装运行。它允许用户在自己的电脑上直接运行大语言模型（LLM），无需依赖云端服务。虽然对硬件有一定要求——推荐现代CPU、16GB内存以及Nvidia GPU（8GB以上显存）或Apple Silicon Mac（16GB以上统一内存），但其便利性和自主性令人惊喜。
作者曾多次撰写关于Ollama的文章，并认为它比ChatGPT等传统AI服务更具优势。以下是选择Ollama的六大理由：
- 完全免费：Ollama本身免费，其模型库中的模型也全部免费。用户只需安装并下载模型即可使用，无需支付任何费用，且永久免费。此外，它还是开源的，这意味着社区可以自由审查和贡献代码。
- 隐私保护：所有查询均在本地处理，不会上传到第三方服务器。相比之下，商业AI服务可能会收集用户的查询数据用于训练或创建用户画像。即使作者主要使用AI进行学术研究，也不希望数据被泄露或滥用。
- 环境友好：大规模AI数据中心消耗大量电力。据国际数据中心管理局（ICDA）报告，美国约6%的电力用于数据中心，且数据中心产生电子垃圾和有害化学物质。Ollama在本地运行，不增加电网负担，甚至可以在笔记本电脑上使用电池供电，更加环保。
- 灵活性高：Ollama提供丰富的模型库，包括DeepSeek、Gemma、Qwen、Mistral、Llama等众多选择。用户可以安装多个模型，并根据不同任务自由切换，这比大多数商业AI服务更加灵活。
- 局域网支持：用户可以在局域网内的一台服务器上安装Ollama，其他设备通过网络连接使用，从而将AI运算任务从个人电脑卸载到服务器上。这样既避免了低性能设备卡顿，又只需一次安装即可多设备共享。
- 离线可用：即使没有互联网连接，Ollama也能正常工作。这对于偏远地区、网络不稳定或高安全要求的场景尤为重要。用户甚至可以在离线的“气隙”机器上运行，实现最高级别的隐私保护。
需要说明的是，ZDNET的母公司Ziff Davis于2025年4月对OpenAI提起诉讼，指控其在训练和运行AI系统时侵犯版权。但这并不影响Ollama作为一款独立、开源工具的价值。
总体而言，Ollama集免费、私密、灵活、环保、离线等多种优点于一身，是传统云端AI服务的理想替代方案。作者强烈推荐读者尝试在本地安装Ollama，其安装过程与普通应用程序一样简单。