Unity AI Gateway 推出 AI 支出控制功能

Databricks 今日宣佈在 Unity AI Gateway 中推出 AI 支出控制功能。這一新發布在 Unity AI Gateway 現有成本可見性的基礎上，增加了主動預算警報，使組織能夠全面控制 AI 支出——從開發者日常使用的編碼代理，到服務客户的生成代理，再到夜間運行的批量作業。

AI 工作負載能帶來極大的價值，但其成本特性比傳統雲支出更難管理。例如，夜間批量翻譯通話記錄的任務可能連續一個月運行正常，然後中途失敗並觸發重試邏輯，一夜之間成本增長 10 倍。工程團隊的編碼代理每週節省數千開發者小時，但同一代理可能使一名工程師在週五晚上意外啓動多代理實驗，到週日就燒完整個團隊的月度預算。跨工程、支持、銷售和運營部門的員工以比過去十年任何技術都快的速度使用 AI，每週解鎖新的用例。但這種採用也帶來了管理挑戰：基礎模型的使用現在跨越數十個團隊、數百名用户和數千個代理，涉及不斷變化的提供商和模型層級。支出控制需要統一應用於所有 AI 工作負載，以便組織能夠自信地投入 AI，而無需擔心賬單上的意外。

配置每個粒度的預算警報

雖然支出控制需要統一應用，但組織的不同部分需要不同的成本控制。平台團隊關心工作區總計，FinOps 負責人關心組織級月度消耗，工程經理關心每位開發者的實驗預算。AI 支出控制允許從一個位置設置所有這些預算，並與 Databricks 的現有預算深度集成：

• 按用户：為個人實驗設置預算，例如工程組織每位用户每月 2000 美元。捕捉代理陷入循環的開發者，在影響損益表之前發現。
• 按用例：如果組織在編碼代理（如 Codex 或 Claude Code）上的支出超過每位用户每月 1000 美元，則收到警報。
• 按工作區：讓每個單位持有自己的預算。生產環境每月 50,000 美元；沙盒 5,000 美元。
• 按賬户：設置頂層上限，例如跨所有模型、提供商、工作區每月 200,000 美元，並在接近上限前收到警報。

開始使用 Unity AI Gateway 預算

要跟蹤組織的 AI 支出，請執行以下步驟：

1. 創建 Unity AI Gateway 預算：打開賬户設置，導航到側邊欄中的"使用情況"，打開"預算"選項卡。創建預算並選擇"Unity AI Gateway"作為資源類型。可選擇將預算僅應用於部分工作區。可選擇應用"資源標籤"為部分 AI Gateway LLM 配置預算。僅標籤匹配的 AI Gateway LLM 會計入預算，這對於配置特定用例的預算非常有用。
2. 配置全局閾值：設置所有選定工作區中匹配資源標籤的資源全局月度支出限制。
3. 配置用户閾值：設置賬户中每位用户的月度支出限制。
4. 配置警報郵箱：當超出閾值時接收通知。

創建後，預算超支時將通過郵件通知。在賬户控制台的"成本"部分，可以查看活躍預算的實時狀態。單擊預算可查看趨勢，包括每位用户的支出情況。如需提高閾值，可直接編輯預算。

詳細分析組織的 AI 支出

Unity AI Gateway 預算提供每用户和每預算的高層概覽。要進一步分析哪些用户、模型或用例驅動支出，可使用 Unity AI Gateway 現有的成本跟蹤功能。每個請求都記錄到 Unity Catalog 系統表中，包括 DBU 成本而不僅僅是令牌數量。配置吞吐量、正常運行時間、按令牌使用以及外部模型提供商的令牌成本都會自動計算。可以根據組織跟蹤支出的方式進行切片：按用户或服務主體聚合、按工作區/端點/標籤分組、按模型和提供商查看，以及按請求標籤進行動態歸因。可以通過導航到工作區中的 Unity AI Gateway 頁面並點擊"查看儀表板"來訪問成本分析儀表板，該儀表板可完全自定義。

一個平台管理數據和 AI

AI 支出控制是 Databricks 現有治理能力的自然擴展。Unity AI Gateway 是組織的中央 AI 網關，用於管理和訪問 LLM 和 MCP。Unity Catalog 是中央目錄，用於註冊和發現數據和 AI 資產。訪問權限、審計日誌和使用數據都存於 Unity Catalog。Databricks 預算提供成本監控和警報的基礎。藉助此次發佈，Databricks 預算現在允許為組織的 AI 工作負載配置 AI 專用預算。Databricks 提供了一個單一、一致的系統，用於治理代理的能力、對象和成本。立即開始使用！