AI News HubLIVE
站内改写2 分钟阅读

各大AI提供商设置指南 – 美国、中国及本地服务

了解如何将AI服务连接到Big-AGI,从OpenAI到本地模型。一个密钥就足够;聚合器简化访问。包含详细步骤和提供商列表。

来源Hacker News AI作者: fredliu

Big-AGI 开始时是空的:连接 AI 服务才能填充模型。只需一个服务的一个密钥就可以开始,没有最低消费,添加第二个服务也不收费。密钥不是聊天订阅:AI 服务将消费者聊天产品和 API 作为两个账户销售,各有各的余额。因此,ChatGPT Plus 或 Claude Pro 订阅不附带密钥,Anthropic 也明确说明了这一点。密钥来自服务的开发者控制台,有自己的余额。

从何处开始?打开应用首先提供的四个服务之一:OpenAI、Anthropic、Gemini 或 OpenRouter。如果你想要特定供应商的模型,直接去那个供应商。想要用最少的步骤获得一个有效密钥?选择 OpenRouter。想在不提供支付方式的情况下试用?Gemini 有免费套餐,但对其发送的内容有自己的条款。

这四个服务是添加服务列表中的“精选”组,也是首次运行设置提供的相同四个。其他所有服务只需再点击一次即可添加。三个步骤即可完成:在服务的控制台创建密钥,将其粘贴到 Models (Ctrl + Shift + M) 中,然后该服务的模型就会填充列表——这表明它成功了(开始你的第一次聊天)。

一个密钥,多个模型:聚合器正是做这件事的,而 OpenRouter 是列表中的那个:一个账户,一个余额,一个涵盖主要供应商模型目录。Big-AGI 为其提供一键跳转——该面板中的“链接 OpenRouter 密钥”会将你发送到 OpenRouter 进行授权,并返回已安装的密钥。交易是中介:一张账单,一个目录,默认情况下列表过滤到精选模型系列。添加服务列表中的礼物图标标记了那些免费发布一些模型的服务。

应用中的 AI 服务:精选(OpenAI、Anthropic、Gemini、OpenRouter);云服务(阿里云、AWS Bedrock、Azure OpenAI、Cerebras、Cohere、DeepSeek、Groq、Mistral、Moonshot AI、NVIDIA NIM、Perplexity、Sakana AI、Together AI、xAI、Z.ai);本地(Ollama、LM Studio、LocalAI)。任何符合 OpenAI API 规范的外部服务也可以通过自定义端点连接。对新服务的支持首先在开源代码库中编写,并在推广后到达托管站点。

每个任务的模型分配:Big-AGI 为每个任务分配一个模型,而不是每个服务,涵盖你已连接的所有内容。任务包括:聊天(对话,可在发送前每条消息更改,默认自动)、代码(应用代码更改,自动)、快速(标题、摘要、小实用调用,自动)、视觉(读取图像,自动)。Auto 在读取时解析,如果存在人工精选的选项,则优先使用。使用模型齿轮中的“默认/模型”按钮固定任务;聊天上方的下拉菜单仅更改该聊天。

在自己机器上运行模型:Ollama、LM Studio 和 LocalAI 像其他任何服务一样连接:将 Big-AGI 指向服务器地址,其模型加入同一列表——无需密钥,无需账户,无需按令牌付费。关闭直接连接时,Big-AGI 快速边缘服务器会调用你提供的地址;云服务器无法到达你计算机上的地址。打开直接连接时,你的浏览器直接调用地址——这就是面板推荐用于本地服务的原因。注意:直接连接仅在浏览器中存储了你的 API 密钥且 AI 服务允许直接浏览器调用(CORS)时有效。如果无法使用,请求将通过 Big-AGI 快速边缘服务器路由——一切仍然正常,但受标准上传大小和时间限制。

本地运行带来的好处:无按令牌付费——只需硬件和电费;离线工作,材料永不离开机器;无计量:一千次回合的成本与一次相同。

相关:保护你的密钥安全、模型设置、连接任何兼容 OpenAI 的端点、直接连接、阿里云。