AI News HubLIVE
站内改写2 分钟阅读

如何在任何框架中运行 Kimi K3:使用 Baseten Switch 进行路由

Baseten Switch 是一款本地 Mac 应用,可让您在流行的人工智能框架(如 Claude Code 和 Codex)中无缝混合运行开源和闭源模型,只需切换开关即可在 Kimi K3、GLM 5.2 等模型之间切换,并跟踪成本、性能和使用情况。

Baseten Switch 是一款用 Go 编写的本地 Mac 应用,它位于您的 AI 框架和模型之间,能够将流量独立地在编排器和子代理级别路由到开源模型(托管在 Baseten 上)和框架自带的原生闭源模型。例如,您可以将所有 Fable 流量路由到 Kimi K3,将所有 Opus 子代理流量路由到 GLM-5.2 Fast,然后通过菜单栏开关一键切换回来,并并排比较指标。

最佳代理组合越来越趋向混合。优化代理现在更像管理一个拥有多种才能和专业技能的团队。企业可能会权衡成本和安全性;个人可能更看重编排器上的推理能力和底层的原始速度。但测试通常意味着重新配置端点、重启会话并丢失原始设置。而 Switch 使模型之间的切换变得流畅、可逆且可测量,从而让您找到可靠性、性能和成本的最佳组合,而不是靠猜测。

以下是精确步骤,展示如何<5分钟内在三种最流行的框架中使用 Kimi K3,并且可以推广到其他框架:

Claude Code 或 Codex 要在 Claude Code 中运行开源模型,首先安装并启动 Baseten Switch。

brew trust basetenlabs/baseten
brew install basetenlabs/baseten/baseten-switch
baseten-switch setup
baseten-switch up --install
# 为使用的框架启用 Switch
baseten-switch claude on
baseten-switch codex on
baseten-switch doctor --probe
claude  # 或 codex --profile baseten

推荐模式:将编排代理(如 Fable 5 或 GPT 5.6 Sol)指向 Kimi-K3;将执行计划的子代理替换为 GLM-5.2 Fast。

功能包括:

  • 实时在原生(Anthropic/OpenAI)和开源(Baseten)模型之间切换,无需重新配置设置或重启会话。
  • 直接从 Claude Code 或 Codex 试用任何模型 API 模型,无需更改技能、子代理、MCP 或其他配置。
  • 捕获 Baseten 和 Anthropic 使用的性能和成本指标,比较开源模型节省了多少费用。
  • 菜单栏图标,轻松开启或关闭 Switch。
  • 配置框架请求的发送目标,例如将 Fable 替换为 Kimi K3,Opus 替换为 GLM 5.2,Haiku 替换为 Inkling,且成本大幅降低。

Deep Agents CLI (LangChain) 运行 curl -LsSf https://langch.in/dcode,然后用 dcode 启动,在内部运行 /install baseten/auth/model 切换到 Kimi-K3。OpenCode、Cline 等其他框架也有类似流程。

常见问题

  • 提示词去哪里了?Switch 运行本地路由器,请求发送到 Baseten 的推理端点。代码和提示词离开您机器的方式与 Anthropic 相同——只是发送到不同提供商。Baseten 有 ZDR 策略,且永远不会看到您的提示词。
  • Baseten 会看到使用指标吗?所有使用指标都在本地计算。
  • 我会双重付费吗?如果我有 Claude Max 订阅并路由到 Baseten,会为两者付费吗?不会。路由基于您的偏好,如果映射到 Baseten,则只为使用付费。

联系我们获取产品专家的帮助。