各大AI提供商設置指南 – 美國、中國及本地服務
瞭解如何將AI服務連接到Big-AGI,從OpenAI到本地模型。一個密鑰就足夠;聚合器簡化訪問。包含詳細步驟和提供商列表。
Big-AGI 開始時是空的:連接 AI 服務才能填充模型。只需一個服務的一個密鑰就可以開始,沒有最低消費,添加第二個服務也不收費。密鑰不是聊天訂閲:AI 服務將消費者聊天產品和 API 作為兩個賬户銷售,各有各的餘額。因此,ChatGPT Plus 或 Claude Pro 訂閲不附帶密鑰,Anthropic 也明確説明了這一點。密鑰來自服務的開發者控制台,有自己的餘額。
從何處開始?打開應用首先提供的四個服務之一:OpenAI、Anthropic、Gemini 或 OpenRouter。如果你想要特定供應商的模型,直接去那個供應商。想要用最少的步驟獲得一個有效密鑰?選擇 OpenRouter。想在不提供支付方式的情況下試用?Gemini 有免費套餐,但對其發送的內容有自己的條款。
這四個服務是添加服務列表中的“精選”組,也是首次運行設置提供的相同四個。其他所有服務只需再點擊一次即可添加。三個步驟即可完成:在服務的控制台創建密鑰,將其粘貼到 Models (Ctrl + Shift + M) 中,然後該服務的模型就會填充列表——這表明它成功了(開始你的第一次聊天)。
一個密鑰,多個模型:聚合器正是做這件事的,而 OpenRouter 是列表中的那個:一個賬户,一個餘額,一個涵蓋主要供應商模型目錄。Big-AGI 為其提供一鍵跳轉——該面板中的“鏈接 OpenRouter 密鑰”會將你發送到 OpenRouter 進行授權,並返回已安裝的密鑰。交易是中介:一張賬單,一個目錄,默認情況下列表過濾到精選模型系列。添加服務列表中的禮物圖標標記了那些免費發佈一些模型的服務。
應用中的 AI 服務:精選(OpenAI、Anthropic、Gemini、OpenRouter);雲服務(阿里雲、AWS Bedrock、Azure OpenAI、Cerebras、Cohere、DeepSeek、Groq、Mistral、Moonshot AI、NVIDIA NIM、Perplexity、Sakana AI、Together AI、xAI、Z.ai);本地(Ollama、LM Studio、LocalAI)。任何符合 OpenAI API 規範的外部服務也可以通過自定義端點連接。對新服務的支持首先在開源代碼庫中編寫,並在推廣後到達託管站點。
每個任務的模型分配:Big-AGI 為每個任務分配一個模型,而不是每個服務,涵蓋你已連接的所有內容。任務包括:聊天(對話,可在發送前每條消息更改,默認自動)、代碼(應用代碼更改,自動)、快速(標題、摘要、小實用調用,自動)、視覺(讀取圖像,自動)。Auto 在讀取時解析,如果存在人工精選的選項,則優先使用。使用模型齒輪中的“默認/模型”按鈕固定任務;聊天上方的下拉菜單僅更改該聊天。
在自己機器上運行模型:Ollama、LM Studio 和 LocalAI 像其他任何服務一樣連接:將 Big-AGI 指向服務器地址,其模型加入同一列表——無需密鑰,無需賬户,無需按令牌付費。關閉直接連接時,Big-AGI 快速邊緣服務器會調用你提供的地址;雲服務器無法到達你計算機上的地址。打開直接連接時,你的瀏覽器直接調用地址——這就是面板推薦用於本地服務的原因。注意:直接連接僅在瀏覽器中存儲了你的 API 密鑰且 AI 服務允許直接瀏覽器調用(CORS)時有效。如果無法使用,請求將通過 Big-AGI 快速邊緣服務器路由——一切仍然正常,但受標準上傳大小和時間限制。
本地運行帶來的好處:無按令牌付費——只需硬件和電費;離線工作,材料永不離開機器;無計量:一千次回合的成本與一次相同。
相關:保護你的密鑰安全、模型設置、連接任何兼容 OpenAI 的端點、直接連接、阿里雲。