Databricks如何利用Unity AI Gateway预算管理其编码代理支出
内容提要
Databricks通过Unity AI Gateway统一管理编码代理的AI支出，采用每日和每月双层预算机制：每日限额自动捕捉失控支出，用户可一键自提；每月限额需经理审批且限时。此模式平衡创新与成本控制，减少审批摩擦，提升效率，并已产品化供客户使用。
延伸解读
双层预算的设计逻辑
文章指出，单一月度限额无法同时捕捉失控支出和满足正常使用，因此Databricks采用每日与每月双层预算。每日限额较小，用于捕捉短期浪费，触发后可通过自服务确认快速提升；每月限额较高，用于管理长期超额支出，需经理审批且限时。这种设计平衡了创新与成本控制，减少了审批摩擦。
自服务提升机制的关键
每日限额的有效性依赖于无摩擦的自助提升流程。工程师在接近限额时收到Slack通知，一键确认即可提升限额，无需审批。这种机制确保正常使用不被中断，同时无人值守的自动化任务无法点击按钮，从而防止失控支出。增量大小需精心设计，过大失去保护作用，过小则造成通知疲劳。
固定层级与自动重置
预算通过固定层级管理，每日层级自动调整，每月层级需审批且限时。每日层级在月底自动重置，避免上月高支出延续为下月额度；每月层级按项目期限设置，结束后自动恢复。这种设计使系统清晰可管理，并确保保护措施始终有效。
Q&A
Databricks如何通过Unity AI Gateway管理编码代理的AI支出？
Databricks将所有编码代理的流量路由到Unity AI Gateway，从而在一个地方强制执行预算、可见性和策略。他们设置了每日和每月双层预算：每日限额用于捕捉失控支出，每月限额用于管理异常支出。每日限额可通过自助服务提升，每月限额需要经理审批且限时。
Databricks的每日和每月预算分别有什么作用？
每日预算用于捕捉短期浪费（如失控的自动化循环），限额较小，触发后用户可一键自提；每月预算用于管理长期浪费（如异常高支出），限额较高，触发后需要经理审批，且提升是临时的，项目结束后恢复。
当工程师达到每日预算限额时，他们如何自助解除限制？
当工程师达到每日限额的90%时，会收到Slack通知，包含支出上下文和确认按钮。点击按钮即表示支出是有意的，每日限额会立即增加一个增量。自助服务也可通过内部预算门户和CLI进行，没有每日自助确认次数上限。
Databricks如何确保每日预算的自动提升不会导致失控？
每日预算的自动提升需要用户主动点击确认，无人值守的cron作业无法点击Slack按钮。此外，增量大小经过精心设计，使得正常使用不会触发通知，而异常支出会触发提醒。
Databricks如何管理每月预算的提升？
每月预算的提升需要经理或上级批准，且提升是临时的，通常与项目期限绑定（1、3或6个月），项目结束后恢复原限额。提升分为几个粗略的层级（如2倍、5倍、无上限），而不是无限小步增加。
Databricks如何实现每日和每月预算的联动？
每日和每月预算通过固定比例耦合。如果经理提高了某人的每月限额，每日限额和增量也会按比例增加，从而保持失控保护的有效性。有效限额是每日和每月限额中的较小值。
Databricks如何通过Unity AI Gateway获得支出可见性？
Unity AI Gateway将所有编码代理的请求归因到用户身份并计量，数据存储在Unity Catalog中。经理可以查看团队级支出，财务部门可以看到统一的账单，而不是多个工具的单独账单。
Databricks的预算管理模型对工程师的生产力有什么影响？
该模型减少了审批摩擦，工程师不再需要频繁提交限额提升请求，自助服务可以快速解除每日限额，每月限额提升也变得更罕见且与项目相关。工程师不再因担心成本而限制AI使用，从而提高了生产力。
