我放棄了ChatGPT，選擇了免費、隱私、本地的AI——Ollama，原因在此
Ollama是一款免費、開源、可本地安裝的AI工具，提供隱私保護、離線訪問和靈活性。它執行在你的個人硬體上，減少環境影響，讓你掌控資料。
文章情報
工程師進階
要點
- Ollama免費、私密且開源。
- 它在本地執行，使用你自己的硬體。
- 可以訪問多種不同的LLM模型。
- 支援離線使用和區域網部署。
為什麼重要
這條新聞值得關注，因為Ollama免費、私密且開源。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
Ollama是一個免費且開源的人工智慧工具，支援在Linux、macOS和Windows系統上安裝執行。它允許使用者在自己的電腦上直接執行大語言模型（LLM），無需依賴雲端服務。雖然對硬體有一定要求——推薦現代CPU、16GB記憶體以及Nvidia GPU（8GB以上視訊記憶體）或Apple Silicon Mac（16GB以上統一記憶體），但其便利性和自主性令人驚喜。
作者曾多次撰寫關於Ollama的文章，並認為它比ChatGPT等傳統AI服務更具優勢。以下是選擇Ollama的六大理由：
- 完全免費：Ollama本身免費，其模型庫中的模型也全部免費。使用者只需安裝並下載模型即可使用，無需支付任何費用，且永久免費。此外，它還是開源的，這意味著社群可以自由審查和貢獻程式碼。
- 隱私保護：所有查詢均在本地處理，不會上傳到第三方伺服器。相比之下，商業AI服務可能會收集使用者的查詢資料用於訓練或建立使用者畫像。即使作者主要使用AI進行學術研究，也不希望資料被洩露或濫用。
- 環境友好：大規模AI資料中心消耗大量電力。據國際資料中心管理局（ICDA）報告，美國約6%的電力用於資料中心，且資料中心產生電子垃圾和有害化學物質。Ollama在本地執行，不增加電網負擔，甚至可以在筆記型電腦上使用電池供電，更加環保。
- 靈活性高：Ollama提供豐富的模型庫，包括DeepSeek、Gemma、Qwen、Mistral、Llama等眾多選擇。使用者可以安裝多個模型，並根據不同任務自由切換，這比大多數商業AI服務更加靈活。
- 區域網支援：使用者可以在區域網內的一臺伺服器上安裝Ollama，其他裝置透過網路連線使用，從而將AI運算任務從個人電腦解除安裝到伺服器上。這樣既避免了低效能裝置卡頓，又只需一次安裝即可多裝置共享。
- 離線可用：即使沒有網際網路連線，Ollama也能正常工作。這對於偏遠地區、網路不穩定或高安全要求的場景尤為重要。使用者甚至可以在離線的“氣隙”機器上執行，實現最高階別的隱私保護。
需要說明的是，ZDNET的母公司Ziff Davis於2025年4月對OpenAI提起訴訟，指控其在訓練和執行AI系統時侵犯版權。但這並不影響Ollama作為一款獨立、開源工具的價值。
總體而言，Ollama集免費、私密、靈活、環保、離線等多種優點於一身，是傳統雲端AI服務的理想替代方案。作者強烈推薦讀者嘗試在本地安裝Ollama，其安裝過程與普通應用程式一樣簡單。