AI News HubLIVE
サイト内リライト2 分で読了

任意のハーネスでKimi K3を実行する方法:Baseten Switchによるルーティング

Baseten Switch はローカルのMacアプリで、Claude CodeやCodexなどの人気ハーネスでオープンモデルとクローズドモデルをシームレスに混在させ、Kimi K3やGLM 5.2などのモデルを切り替えながら、コスト、パフォーマンス、使用状況を追跡できます。

ソースBaseten Blog

Baseten Switchは、Goで記述されたローカルMacアプリで、ハーネスとモデルの間に位置し、オーケストレーターとサブエージェントレベルで独立して、Baseten上のオープンモデルと人気ハーネスに付属するネイティブクローズドモデル間でトラフィックをルーティングします。例えば、すべてのFableトラフィックをKimi K3に、すべてのOpusサブエージェントトラフィックをGLM-5.2 Fastにルーティングし、メニューバーのトグルで元に戻してメトリクスを並べて比較できます。

最適なエージェントの組み合わせはますます混合型になっています。エージェントの最適化は、多くの才能と専門性を持つチームを管理するように見えます。企業はコストとセキュリティを重視し、個人はオーケストレーターでの推論とその下での生の速度を最大化することを重視するかもしれません。しかし、テストはエンドポイントのパス変数による再設定、セッションの再起動、元の設定の喪失を意味していました。Switchはモデルの切り替えをスムーズで可逆的、かつ測定可能にし、推測ではなく信頼性、パフォーマンス、コストの最適な組み合わせを見つけられるようにします。

以下は、今日最も人気のある3つのハーネス内で5分以内にKimi-K3を使用する正確な手順であり、他のハーネスにも一般化できます。

Claude Code または Codex Claude Codeでオープンモデルを実行するには、まずBaseten Switchをインストールして起動します。

brew trust basetenlabs/baseten
brew install basetenlabs/baseten/baseten-switch
baseten-switch setup
baseten-switch up --install
# 使用するハーネスのSwitchを有効化
baseten-switch claude on
baseten-switch codex on
baseten-switch doctor --probe
claude  # または codex --profile baseten

推奨パターン:Fable 5やGPT 5.6 SolなどのオーケストレーションエージェントはKimi-K3に、計画の個々のコンポーネントを実行するサブエージェントはGLM-5.2 Fastに置き換えます。

機能:

  • 設定を再構成したりセッションを再起動することなく、ネイティブ(Anthropic/OpenAI)とオープン(Baseten)モデルをライブで切り替え。
  • Claude CodeやCodexから直接任意のモデルAPIを試用可能。スキル、サブエージェント、MCPなどの設定変更は不要。
  • BasetenとAnthropicの使用状況からパフォーマンスとコストメトリクスをキャプチャ。オープンモデルによる節約額や、同じトークンがハーネスデフォルトのクローズドモデルでかかったであろうコストを比較。
  • メニューバーアイコンからSwitchのオン/オフを簡単に切り替え。
  • ハーネスからのリクエスト送信先を設定。例えば、FableへのリクエストをKimi K3に、OpusとSonnetをGLM 5.2に、HaikuをInklingに置き換え。コストはわずか。

Deep Agents CLI (LangChain) curl -LsSf https://langch.in/dcode を実行し、dcode で起動後、内部で /install baseten/auth/model を実行してKimi-K3に切り替え。OpenCode、Clineなどのハーネスでも同様のフローでAPIキーを提供するだけでネイティブインストール体験が可能です。

FAQ

  • プロンプトはどこに行きますか? Switchはローカルルーターを実行し、オープンモデルへのリクエストはBasetenの推論エンドポイントに送信されます。コードとプロンプトはAnthropicと同じ方法でマシンから離れます—別のプロバイダーに行くだけです。BasetenはZDRポリシーがあり、プロンプトを見ることはありません。
  • Basetenは使用メトリクスを見ますか? すべての使用メトリクスはローカルで計算されます。
  • 二重支払いになりますか? Claude MaxサブスクリプションでBasetenにルーティングした場合、両方に支払いますか? いいえ。ルーティングはユーザーの設定に基づき、Basetenにマッピングされたモデルに対してのみ支払います。

製品エキスパートへのお問い合わせはこちら。