本文にスキップ
AI News HubLIVE
サイト内リライト4 分で読了

Unity Gateway Insights の紹介

記事の要約

Databricks は Unity Gateway Insights を発表した。Genie が数百万件のエージェントトレースをビジネスデータやオントロジーと組み合わせて自動分析し、無駄なトークンを特定する。繰り返す MCP エラー、高価なフロンティアモデルで処理される単純タスク、共有スキル化すべき反復ワークフローを、既存のデータガバナンスの下で可視化する。

Unity Gateway Insights の紹介
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

Databricks はブログで Unity Gateway Insights を発表した。記事はまず、AI コストを削減しようとするチームが予算管理やオープンモデルへの切り替えから始めがちだが、エージェントのトレースを分析すると別の節約機会が見つかると指摘する。Databricks 自身が数千人のエンジニアにコーディングエージェントを展開する過程で、トレース分析からいくつかの発見を得た。オフラインのリプレイでは Opus 4.8 から Opus 5 へのアップグレードに性能向上が認められなかったため、より安価な 4.8 を使い続けたこと、よくある MCP エラーを修正することで年間約 120 万ドルのコストを回復できると推定されたこと、単純なプロンプトが高価なモデルに送られていることが分かり Smart Routing を採用したことである。

Unity Gateway Insights はこの経験を製品化したものだ。Genie を自動的に用いて数百万件のエージェントトレースを分析し、企業のビジネスデータやオントロジーと組み合わせて、トークンが浪費されている箇所を示す。具体的には、繰り返し発生する MCP エラー、高価なフロンティアモデルで実行されている単純なタスク、共有スキルに変換する価値のある反復ワークフローである。分析はビジネスの文脈の中で行われ、他のデータと同じガバナンスの下に置かれる。

利用方法として、すでに Unity Gateway にトラフィックが流れている場合、AI Gateway の Observability から Insights を開き、直近 1 日、7 日、30 日のレポートを生成できる。レポートはコーディングエージェント展開のトークン経済性について次の問いに答える。人々が何に取り組んでいるかについては、各ワークストリームのセッション比率とトークン比率を比較し、例えばセッションの 10% しか占めないのにトークンの 35% を消費しているワークストリームがあれば、そこを最初に確認すべき対象として示す。どこでコストを削減できるかについては、トークンの流れを示し、浪費の種類をコスト順に並べる。反復ワークフローごとには、共有スキル化するためのコピー可能なプロンプトも生成する。各発見は例となるセッションにリンクし、背後にあるトレースを開ける。レポートには独自の質問を最大 10 個追加でき、例えば最新モデルがチームの作業に本当に価値があるかどうかを尋ねられる。さらに深掘りしたい場合は Genie との会話を続け、今月トークンを最も浪費した MCP サーバーとその所有者を尋ねれば、そのまま送れるバグレポートが得られる。

記事は各浪費の背景も説明する。MCP エラーと浪費について、ツール呼び出しが失敗するとエージェントはタスクを終えるまで再試行や回避を行うため、セッションは成功したように見えても再試行ごとにコストが発生する。Databricks が見つけた 120 万ドルは MCP サーバー内のわずか 7 つの小さなバグに起因し、49.9 万ドルの浪費トークンとエンジニアがエージェントを待った 1 万 2000 時間が含まれる。7 つすべての修正には約 1 時間しかかからなかった。非効率なモデル利用について、Insights はフロンティアモデルの各セッションでタスクの複雑さを評価し、短時間で定型的なタスクとそのトークン消費を数える。これらは Smart Routing が安価なモデルへ回し、フロンティアモデルを本当に必要な作業に残せるセッションである。共有スキル化すべき共通ワークフローについて、ワークフローが少なくとも 3 つのセッションで、または 2 人のエンジニアにまたがって繰り返されると集計対象になる。共有スキルは手順をエージェントに事前に与えるため、セッションごとに手順を考え直すコストを払わずに済む。

記事は、こうした浪費の発見には各エージェントセッションの全ステップの完全な記録が必要だと強調する。入力と出力、ツール呼び出し、サブエージェント、中間ステップ、レイテンシ、トークンコストが含まれる。単体のゲートウェイは通過したリクエストしか記録しない。セッションの残りを捉えるには、各コーディングエージェントに自前で計装し、トレースをデータプラットフォームへエクスポートして分析する必要がある。Claude Code をトレースに向けても、調査設計は利用者に委ねられ、Genie オントロジーのようなビジネスマップもない。Insights は Databricks が数千人のエンジニアへの展開時に開発した調査を実行する。セッションをサンプリングして作業の種類ごとにワークストリームへ分類し、各ワークストリームについて失敗する MCP ツール、肥大化したコンテキスト、単純タスクへのフロンティアモデル利用、反復ワークフローを確認し、かかっているトークン量で優先順位を付ける。

この機能は単体ゲートウェイには持てない 4 つの基盤に依存する。第 1 に、すべてのエージェントが自動でトレースされること。Unity Gateway はコーディングエージェントのリクエストが通るコントロールプレーンであり、エンジニアが ug CLI で Claude Code、Codex、GitHub Copilot を起動すると、ug が各エージェント固有の OpenTelemetry トレースを自動で有効化するため、チーム側の計装は不要になる。トレースは Unity Catalog 内のユーザーが所有するガバナンスされた Delta テーブルである統合トレーステーブルに格納され、任意のツールが読めるオープンな形式を採る。第 2 に、ビジネスを理解する Genie。Genie が SQL を書きセッションを読み、Genie オントロジーにより自社のプロジェクト名やビジネス上のニュアンスを反映した回答を返す。第 3 に、数百万件のトレースを扱う規模。Databricks SQL が最大級のテーブルと同じ規模と性能でトレース履歴全体を照会する。第 4 に、デフォルトで保護されること。トレースにはプロンプトやコード、ツール出力が含まれるため、管理者が Unity Catalog のグラントや行フィルタで許可するまでテーブル所有者だけが照会できる。Insights はテーブルをその場で読み取るため、最も機密性の高いデータをエクスポートせずに分析できる。

導入について、開発者がすでに Unity Gateway 経由でコーディングエージェントを実行しているなら、今日から最初のレポートを生成できる。統合トレーステーブルを設定して Unity Gateway がトレースを記録するようにし、チームに ug CLI でコーディングエージェントを起動してもらい、ワークスペースの AI Gateway の Observability から Insights を開いてレポートを生成する。詳細は Insights のドキュメントに記載されている。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • Insights は Genie を使いトレースをビジネスデータとオントロジーの文脈で分析
  • MCP エラー、非効率なモデル利用、共有スキル化すべき反復ワークフローを検出
  • 自動トレース、Genie オントロジー、Databricks SQL、Unity Catalog のガバナンスに依存
  • 7 つの小さな MCP バグ修正で年間約 120 万ドルのコストを回復したと推定

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。