Unity AI Gateway 新功能:為AI代理和MCP提供服務策略、護欄、可觀測性和成本控制
Databricks 宣佈 Unity AI Gateway 擴充套件了 AI 治理能力,涵蓋 LLM 護欄、成本控制、MCP 有效負載記錄和服務策略,旨在幫助團隊在生產環境中安全、可控地擴充套件 AI。
Databricks 宣佈 Unity AI Gateway 擴充套件了其 AI 治理能力,在四個關鍵領域推出新功能(Beta 版):LLM 護欄、成本控制、MCP 有效負載記錄和服務策略。這些功能旨在幫助組織在生產環境中安全、可控地擴充套件 AI 代理。
隨著 AI 代理快速進入生產階段,許多團隊面臨成本上升、代理行為不明確以及控制能力有限等挑戰。Unity AI Gateway 作為 Unity Catalog 的一部分,為每個模型呼叫、工具呼叫和代理互動提供執行時治理。
LLM 護欄:團隊現在可以使用模型和提示定義即時評估的策略,取代了剛性的預置過濾器。這些護欄可應用於輸入、輸出或兩者,確保模型行為保持在定義範圍內,同時不影響代理工作流。護欄日誌集中儲存在 Unity Catalog 中,提供完整的可見性。
成本控制:Unity AI Gateway 引入了令牌級別的成本歸屬,可追蹤請求、使用者和端點的使用情況。團隊可以設定按使用者警報和硬預算限制,當使用量超過閾值時自動執行控制,防止成本失控。
MCP 有效負載記錄:透過啟用推理表,Unity AI Gateway 捕獲所有模型呼叫和 MCP 互動的請求和響應資料。這些日誌自動儲存為 Unity Catalog 管理的系統表,建立可查詢的代理活動中心記錄,便於除錯、審計和合規。
MCP 服務策略:管理員可以在 Unity Catalog 中管理 MCP,並定義誰可以呼叫哪些 MCP。策略基於代理身份、使用者上下文和請求引數定義,例如限制代理訪問高度機密文件,或限制寫入操作只能作用於使用者擁有的檔案。策略使用 SQL 定義為 Unity Catalog 函式,確保確定性、可審計性和易執行性。
Definitive Healthcare 工程副總裁 Erik Meijer 表示:“代理 AI 與醫療資料集的融合為我們的客戶帶來了更豐富的洞察,同時也增加了對強治理、安全性和合規性的需求。我們期待利用 Unity AI Gateway 跨模型、代理和工具安全地治理 AI。”
Ibotta 資料與 AI 平臺高階總監 Jeff Hepburn 補充道:“Unity AI Gateway 正在成為我們分析和代理計劃的關鍵基礎設施,使我們能夠快速創新,同時透過統一治理、簡化的架構和端到端安全性擴充套件生產 AI。”
這些新功能現已開放 Beta 測試。使用者可以透過工作區導航到 Unity AI Gateway 開始使用。Databricks 還將在 Data + AI Summit 2026 上展示 Unity AI Gateway 的實際應用。
更多資訊請參閱官方文件及詳細操作指南。