Unity AI Gateway 推出 AI 支出控制功能

Databricks 今日宣佈在 Unity AI Gateway 中推出 AI 支出控制功能。這一新發布在 Unity AI Gateway 現有成本可見性的基礎上，增加了主動預算警報，使組織能夠全面控制 AI 支出——從開發者日常使用的編碼代理，到服務客戶的生成代理，再到夜間執行的批次作業。

AI 工作負載能帶來極大的價值，但其成本特性比傳統雲支出更難管理。例如，夜間批次翻譯通話記錄的任務可能連續一個月執行正常，然後中途失敗並觸發重試邏輯，一夜之間成本增長 10 倍。工程團隊的編碼代理每週節省數千開發者小時，但同一代理可能使一名工程師在週五晚上意外啟動多代理實驗，到週日就燒完整個團隊的月度預算。跨工程、支援、銷售和運營部門的員工以比過去十年任何技術都快的速度使用 AI，每週解鎖新的用例。但這種採用也帶來了管理挑戰：基礎模型的使用現在跨越數十個團隊、數百名使用者和數千個代理，涉及不斷變化的提供商和模型層級。支出控制需要統一應用於所有 AI 工作負載，以便組織能夠自信地投入 AI，而無需擔心賬單上的意外。

配置每個粒度的預算警報

雖然支出控制需要統一應用，但組織的不同部分需要不同的成本控制。平臺團隊關心工作區總計，FinOps 負責人關心組織級月度消耗，工程經理關心每位開發者的實驗預算。AI 支出控制允許從一個位置設定所有這些預算，並與 Databricks 的現有預算深度整合：

• 按使用者：為個人實驗設定預算，例如工程組織每位使用者每月 2000 美元。捕捉代理陷入迴圈的開發者，在影響損益表之前發現。
• 按用例：如果組織在編碼代理（如 Codex 或 Claude Code）上的支出超過每位使用者每月 1000 美元，則收到警報。
• 按工作區：讓每個單位持有自己的預算。生產環境每月 50,000 美元；沙盒 5,000 美元。
• 按賬戶：設定頂層上限，例如跨所有模型、提供商、工作區每月 200,000 美元，並在接近上限前收到警報。

開始使用 Unity AI Gateway 預算

要跟蹤組織的 AI 支出，請執行以下步驟：

1. 建立 Unity AI Gateway 預算：開啟賬戶設定，導航到側邊欄中的"使用情況"，開啟"預算"選項卡。建立預算並選擇"Unity AI Gateway"作為資源型別。可選擇將預算僅應用於部分工作區。可選擇應用"資源標籤"為部分 AI Gateway LLM 配置預算。僅標籤匹配的 AI Gateway LLM 會計入預算，這對於配置特定用例的預算非常有用。
2. 配置全域性閾值：設定所有選定工作區中匹配資源標籤的資源全域性月度支出限制。
3. 配置使用者閾值：設定賬戶中每位使用者的月度支出限制。
4. 配置警報郵箱：當超出閾值時接收通知。

建立後，預算超支時將透過郵件通知。在賬戶控制台的"成本"部分，可以檢視活躍預算的即時狀態。單擊預算可檢視趨勢，包括每位使用者的支出情況。如需提高閾值，可直接編輯預算。

詳細分析組織的 AI 支出

Unity AI Gateway 預算提供每使用者和每預算的高層概覽。要進一步分析哪些使用者、模型或用例驅動支出，可使用 Unity AI Gateway 現有的成本跟蹤功能。每個請求都記錄到 Unity Catalog 系統表中，包括 DBU 成本而不僅僅是令牌數量。配置吞吐量、正常執行時間、按令牌使用以及外部模型提供商的令牌成本都會自動計算。可以根據組織跟蹤支出的方式進行切片：按使用者或服務主體聚合、按工作區/端點/標籤分組、按模型和提供商檢視，以及按請求標籤進行動態歸因。可以透過導航到工作區中的 Unity AI Gateway 頁面並點選"檢視儀表板"來訪問成本分析儀表板，該儀表板可完全自定義。

一個平臺管理資料和 AI

AI 支出控制是 Databricks 現有治理能力的自然擴充套件。Unity AI Gateway 是組織的中央 AI 閘道器，用於管理和訪問 LLM 和 MCP。Unity Catalog 是中央目錄，用於註冊和發現資料和 AI 資產。訪問許可權、審計日誌和使用資料都存於 Unity Catalog。Databricks 預算提供成本監控和警報的基礎。藉助此次釋出，Databricks 預算現在允許為組織的 AI 工作負載配置 AI 專用預算。Databricks 提供了一個單一、一致的系統，用於治理代理的能力、物件和成本。立即開始使用！