開源 Atuin AI 服務器

Atuin AI 是一個專注於終端場景的快速 AI 代理，它直接運行在 shell 中，啓動迅速，並配備了完成終端工作所需的各類代理工具。Atuin 為用户提供了慷慨的免費使用額度，並且不會存儲用户的 AI 對話記錄。不過，團隊也意識到，部分用户希望對數據有更嚴格的控制，尤其是那些源自終端使用的數據。為此，Atuin 決定將 Atuin AI 服務器開源。

Atuin AI 服務器現已發佈在 GitHub 上的 atuinsh/atuin-ai-server 倉庫中。它基於 atuinsh/atuin-ai-core 構建，而後者正是生產環境 Atuin AI 服務器所使用的同一套庫。目前，Atuin AI 服務器支持任何兼容 OpenAI 的 chat completions 風格端點。對於本地模型，這意味着你可以使用 Ollama、vLLM、LM Studio、llama.cpp 和 LiteLLM 等工具；同時也可以使用如 OpenRouter 這樣的 OpenAI 兼容 Web 服務。

想要開始使用，只需克隆倉庫，然後將示例配置文件 config.example.toml 複製為 config.toml，並按照 README 中的配置説明進行設置。以下是一個基於 Ollama 的極簡配置示例：端口設為 8080，端點指向 http://localhost:11434/v1，默認模型為 llama31，並定義了幾個模型別名。更多細節，包括配置服務端工具（如網絡搜索和網頁內容抓取），請參閲倉庫 README。

服務器可以通過兩種方式啓動。如果你已經安裝了 Erlang、Elixir 和 Gleam，可以使用 mix deps.get 和 mix run --no-halt 命令從源碼原生運行；如果使用 Docker，則可以用 docker run 命令掛載配置文件和映射端口。需要注意的是，如果通過 Docker 連接宿主機上的本地 LLM 服務（如 Ollama），應使用 host.docker.internal 而不是 localhost 作為端點，因為 localhost 會指向容器自身的迴環接口。

最後，服務器運行起來後，你可以在 Atuin AI 客户端中設置 endpoint 配置，例如 http://localhost:8080，從而將客户端連接到自己的服務器。這樣，用户就能在享受 Atuin AI 強大功能的同時，完全掌控自己的數據。