Databricks如何透過Unity AI Gateway預算管理自家編碼代理開支

在Databricks，軟體構建方式正隨著AI在工程中的積極採用而快速變化。每天有數千名工程師使用編碼代理，混合使用Claude Code、Codex、Cursor等多種工具，常常同時執行多個。這種採用是好事，但也帶來了新問題：編碼代理支出已成為研發部門增長最快的專案之一，一個單次失控的自動化迴圈可能在一下午燒掉一個月的預算。

本文分享了Databricks內部如何透過Unity AI Gateway Budgets解決這一問題——這也是他們向客戶提供的同一產品。由於所有編碼代理在Databricks內部都透過閘道器路由流量，無論工具或模型如何，團隊可以在整個範圍內強制執行統一的支出策略，無需單獨管理每個代理的管理控制台。

主要經驗包括：將失控保護與月度限額分開，因為兩者需要不同的限制和重置週期；大多數限額觸達並非問題，而是工程師正常工作，因此解鎖路徑應自助完成而非審批佇列；審批應僅用於真正例外的情況，並應設定時限，防止一次性專案變成永久許可權。這一切的前提是所有代理流量流經一個控制點——閘道器使單一策略對所有編碼代理可強制執行。

最初的月度限額策略下，每位工程師預設月度限額（假設500美元），超出後需提交請求提高。但該策略帶來諸多摩擦：限額同時也是失控保護，每次提高需重複申請，且提高是永久性的。每月有500至1000名工程師觸達限額，產生數百張工單和大量中斷。

重新設計基於兩條原則：一是一般情況下允許工程師自由支出，不因審批和升級減慢速度；二是避免浪費，浪費分為短期（快速支出，可能意外）和長期（數天或數週的過度支出，表明技術選擇不當）。

解決方案是兩個預算：每日限額用於捕獲失控支出，額度相對較小；觸及後工程師透過Slack收到通知，確認支出有意即可自動提高限額，無需審批。每月限額用於管理非常規支出，額度較高，觸及後需經理批准，且限專案期限。兩個限額透過固定比例關聯，確保平滑支出的工程師不會觸及每日限額。

自我服務確認工作流：當工程師接近90%的每日限額時，會收到Slack通知，包含當日支出和剩餘空間，並有一個按鈕確認支出有意。點選後立即提高限額。每日可多次確認，無上限。層級設計：每日層級自動調整，每月層級需經理批准，分為幾個固定檔次（2倍、5倍、幾乎無限），時限為專案期限。

透過Unity AI Gateway強制執行：所有請求都歸屬使用者身份並計量，預算跨所有工具生效。層級透過使用者組分配實現。資料匯入Unity Catalog，管理人員可檢視團隊支出，財務部門統一結算。

效果：中斷式審批佇列消失，只有極少數重度使用者每月觸達每日限額，每次透過一次點選確認解決。月度限額升級從常態變為罕見、限於專案的決策。工程師不再限制AI使用，而是透過資料引導支出。

下一步：繼續調整數字，將內部模式反饋到Budget產品中：原生每日預算週期、臨時覆蓋許可權、更靈活的預算API。同時透過更智慧的模型路由，讓日常任務使用高效模型，前沿模型僅用於需要它們的任務。