我放棄了ChatGPT，選擇了免費、隱私、本地的AI——Ollama，原因在此
Ollama是一款免費、開源、可本地安裝的AI工具，提供隱私保護、離線訪問和靈活性。它運行在你的個人硬件上，減少環境影響，讓你掌控數據。
文章情報
工程師進階
要點
- Ollama免費、私密且開源。
- 它在本地運行，使用你自己的硬件。
- 可以訪問多種不同的LLM模型。
- 支持離線使用和局域網部署。
為甚麼重要
這條新聞值得關注，因為Ollama免費、私密且開源。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
Ollama是一個免費且開源的人工智能工具，支持在Linux、macOS和Windows系統上安裝運行。它允許用户在自己的電腦上直接運行大語言模型（LLM），無需依賴雲端服務。雖然對硬件有一定要求——推薦現代CPU、16GB內存以及Nvidia GPU（8GB以上顯存）或Apple Silicon Mac（16GB以上統一內存），但其便利性和自主性令人驚喜。
作者曾多次撰寫關於Ollama的文章，並認為它比ChatGPT等傳統AI服務更具優勢。以下是選擇Ollama的六大理由：
- 完全免費：Ollama本身免費，其模型庫中的模型也全部免費。用户只需安裝並下載模型即可使用，無需支付任何費用，且永久免費。此外，它還是開源的，這意味着社區可以自由審查和貢獻代碼。
- 隱私保護：所有查詢均在本地處理，不會上傳到第三方服務器。相比之下，商業AI服務可能會收集用户的查詢數據用於訓練或創建用户畫像。即使作者主要使用AI進行學術研究，也不希望數據被泄露或濫用。
- 環境友好：大規模AI數據中心消耗大量電力。據國際數據中心管理局（ICDA）報告，美國約6%的電力用於數據中心，且數據中心產生電子垃圾和有害化學物質。Ollama在本地運行，不增加電網負擔，甚至可以在筆記本電腦上使用電池供電，更加環保。
- 靈活性高：Ollama提供豐富的模型庫，包括DeepSeek、Gemma、Qwen、Mistral、Llama等眾多選擇。用户可以安裝多個模型，並根據不同任務自由切換，這比大多數商業AI服務更加靈活。
- 局域網支持：用户可以在局域網內的一台服務器上安裝Ollama，其他設備通過網絡連接使用，從而將AI運算任務從個人電腦卸載到服務器上。這樣既避免了低性能設備卡頓，又只需一次安裝即可多設備共享。
- 離線可用：即使沒有互聯網連接，Ollama也能正常工作。這對於偏遠地區、網絡不穩定或高安全要求的場景尤為重要。用户甚至可以在離線的“氣隙”機器上運行，實現最高級別的隱私保護。
需要説明的是，ZDNET的母公司Ziff Davis於2025年4月對OpenAI提起訴訟，指控其在訓練和運行AI系統時侵犯版權。但這並不影響Ollama作為一款獨立、開源工具的價值。
總體而言，Ollama集免費、私密、靈活、環保、離線等多種優點於一身，是傳統雲端AI服務的理想替代方案。作者強烈推薦讀者嘗試在本地安裝Ollama，其安裝過程與普通應用程序一樣簡單。