AI News HubLIVE
站内改写2 分钟阅读

Unity AI Gateway 推出 AI 支出控制功能

Databricks 宣布 Unity AI Gateway 新增 AI 支出控制功能,通过主动预算警报帮助组织管理 AI 工作负载的成本,支持按用户、用例、工作区和账户设置预算阈值,并与 Unity Catalog 和 Databricks 预算系统集成。

Databricks 今日宣布在 Unity AI Gateway 中推出 AI 支出控制功能。这一新发布在 Unity AI Gateway 现有成本可见性的基础上,增加了主动预算警报,使组织能够全面控制 AI 支出——从开发者日常使用的编码代理,到服务客户的生成代理,再到夜间运行的批量作业。

AI 工作负载能带来极大的价值,但其成本特性比传统云支出更难管理。例如,夜间批量翻译通话记录的任务可能连续一个月运行正常,然后中途失败并触发重试逻辑,一夜之间成本增长 10 倍。工程团队的编码代理每周节省数千开发者小时,但同一代理可能使一名工程师在周五晚上意外启动多代理实验,到周日就烧完整个团队的月度预算。跨工程、支持、销售和运营部门的员工以比过去十年任何技术都快的速度使用 AI,每周解锁新的用例。但这种采用也带来了管理挑战:基础模型的使用现在跨越数十个团队、数百名用户和数千个代理,涉及不断变化的提供商和模型层级。支出控制需要统一应用于所有 AI 工作负载,以便组织能够自信地投入 AI,而无需担心账单上的意外。

配置每个粒度的预算警报

虽然支出控制需要统一应用,但组织的不同部分需要不同的成本控制。平台团队关心工作区总计,FinOps 负责人关心组织级月度消耗,工程经理关心每位开发者的实验预算。AI 支出控制允许从一个位置设置所有这些预算,并与 Databricks 的现有预算深度集成:

  • 按用户:为个人实验设置预算,例如工程组织每位用户每月 2000 美元。捕捉代理陷入循环的开发者,在影响损益表之前发现。
  • 按用例:如果组织在编码代理(如 Codex 或 Claude Code)上的支出超过每位用户每月 1000 美元,则收到警报。
  • 按工作区:让每个单位持有自己的预算。生产环境每月 50,000 美元;沙盒 5,000 美元。
  • 按账户:设置顶层上限,例如跨所有模型、提供商、工作区每月 200,000 美元,并在接近上限前收到警报。

开始使用 Unity AI Gateway 预算

要跟踪组织的 AI 支出,请执行以下步骤:

  1. 创建 Unity AI Gateway 预算:打开账户设置,导航到侧边栏中的"使用情况",打开"预算"选项卡。创建预算并选择"Unity AI Gateway"作为资源类型。可选择将预算仅应用于部分工作区。可选择应用"资源标签"为部分 AI Gateway LLM 配置预算。仅标签匹配的 AI Gateway LLM 会计入预算,这对于配置特定用例的预算非常有用。
  2. 配置全局阈值:设置所有选定工作区中匹配资源标签的资源全局月度支出限制。
  3. 配置用户阈值:设置账户中每位用户的月度支出限制。
  4. 配置警报邮箱:当超出阈值时接收通知。

创建后,预算超支时将通过邮件通知。在账户控制台的"成本"部分,可以查看活跃预算的实时状态。单击预算可查看趋势,包括每位用户的支出情况。如需提高阈值,可直接编辑预算。

详细分析组织的 AI 支出

Unity AI Gateway 预算提供每用户和每预算的高层概览。要进一步分析哪些用户、模型或用例驱动支出,可使用 Unity AI Gateway 现有的成本跟踪功能。每个请求都记录到 Unity Catalog 系统表中,包括 DBU 成本而不仅仅是令牌数量。配置吞吐量、正常运行时间、按令牌使用以及外部模型提供商的令牌成本都会自动计算。可以根据组织跟踪支出的方式进行切片:按用户或服务主体聚合、按工作区/端点/标签分组、按模型和提供商查看,以及按请求标签进行动态归因。可以通过导航到工作区中的 Unity AI Gateway 页面并点击"查看仪表板"来访问成本分析仪表板,该仪表板可完全自定义。

一个平台管理数据和 AI

AI 支出控制是 Databricks 现有治理能力的自然扩展。Unity AI Gateway 是组织的中央 AI 网关,用于管理和访问 LLM 和 MCP。Unity Catalog 是中央目录,用于注册和发现数据和 AI 资产。访问权限、审计日志和使用数据都存于 Unity Catalog。Databricks 预算提供成本监控和警报的基础。借助此次发布,Databricks 预算现在允许为组织的 AI 工作负载配置 AI 专用预算。Databricks 提供了一个单一、一致的系统,用于治理代理的能力、对象和成本。立即开始使用!