开源 Atuin AI 服务器

Atuin AI 是一个专注于终端场景的快速 AI 代理，它直接运行在 shell 中，启动迅速，并配备了完成终端工作所需的各类代理工具。Atuin 为用户提供了慷慨的免费使用额度，并且不会存储用户的 AI 对话记录。不过，团队也意识到，部分用户希望对数据有更严格的控制，尤其是那些源自终端使用的数据。为此，Atuin 决定将 Atuin AI 服务器开源。

Atuin AI 服务器现已发布在 GitHub 上的 atuinsh/atuin-ai-server 仓库中。它基于 atuinsh/atuin-ai-core 构建，而后者正是生产环境 Atuin AI 服务器所使用的同一套库。目前，Atuin AI 服务器支持任何兼容 OpenAI 的 chat completions 风格端点。对于本地模型，这意味着你可以使用 Ollama、vLLM、LM Studio、llama.cpp 和 LiteLLM 等工具；同时也可以使用如 OpenRouter 这样的 OpenAI 兼容 Web 服务。

想要开始使用，只需克隆仓库，然后将示例配置文件 config.example.toml 复制为 config.toml，并按照 README 中的配置说明进行设置。以下是一个基于 Ollama 的极简配置示例：端口设为 8080，端点指向 http://localhost:11434/v1，默认模型为 llama31，并定义了几个模型别名。更多细节，包括配置服务端工具（如网络搜索和网页内容抓取），请参阅仓库 README。

服务器可以通过两种方式启动。如果你已经安装了 Erlang、Elixir 和 Gleam，可以使用 mix deps.get 和 mix run --no-halt 命令从源码原生运行；如果使用 Docker，则可以用 docker run 命令挂载配置文件和映射端口。需要注意的是，如果通过 Docker 连接宿主机上的本地 LLM 服务（如 Ollama），应使用 host.docker.internal 而不是 localhost 作为端点，因为 localhost 会指向容器自身的回环接口。

最后，服务器运行起来后，你可以在 Atuin AI 客户端中设置 endpoint 配置，例如 http://localhost:8080，从而将客户端连接到自己的服务器。这样，用户就能在享受 Atuin AI 强大功能的同时，完全掌控自己的数据。