内容提要
AI网关现支持按团队、项目或API密钥设置支出预算,可设定美元限额,超限即停止请求直至重置或调整。仪表盘提供预算总览、邮件提醒(50%、75%、100%阈值)及默认预算继承功能,CLI也可管理预算,支持日、周、月或无周期刷新。
延伸解读
多级预算的叠加逻辑
预算可同时作用于团队、项目和API密钥三个层级,一个请求可能同时受多个预算约束。只有当所有相关预算都未超限时,请求才会被放行;任一预算超限,即使其他预算仍有余额,请求也会被拒绝。这种设计有助于实现精细的成本控制,但需要留意各层级预算的协调,避免因单一层级超限而影响整体服务。
默认预算与显式预算的优先级
系统支持为项目或API密钥设置默认预算,未单独设置预算的实体将自动继承默认值。但显式设置的预算始终优先于默认预算。这一机制简化了预算管理,尤其适合需要统一管控的场景,但需注意显式预算的配置,以免意外覆盖默认策略。
预算刷新周期与提醒机制
预算刷新周期支持日、周、月或无周期(累计上限),默认按月刷新。邮件提醒默认关闭,可在达到限额的50%、75%和100%时通知指定收件人,但提醒仅作通知,不会阻止请求,只有预算限额本身才会阻断请求。建议根据实际使用频率设置合适的刷新周期,并开启提醒以提前应对潜在的超支风险。
Q&A
AI网关的支出预算可以按哪些范围设置?
AI网关的支出预算可以按团队、项目或API密钥三种范围设置。
当请求超过预算限制时会发生什么?
当请求超过预算限制时,网关会停止处理后续请求,直到预算重置或提高限额。如果请求同时受多个预算约束,只要其中一个超限,请求就会被拒绝。
如何在仪表盘中查看和管理预算?
在AI网关的预算标签页中,可以查看所有预算的支出概览,并设置预算、刷新周期和邮件提醒。邮件提醒默认关闭,可在达到限额的50%、75%或100%时通知。
如何设置默认预算?
可以为项目或API密钥设置默认预算,这样没有明确预算的项目或密钥会自动继承默认预算。明确设置的预算会覆盖默认预算。
CLI中如何设置团队预算?
使用命令 `vercel ai-gateway budgets set team --limit 500 --refresh-period monthly` 可以设置团队预算,其中 --limit 指定美元限额,--refresh-period 指定刷新周期(日、周、月或无)。
预算的刷新周期有哪些选项?
预算的刷新周期可以是每日、每周、每月(默认)或无(累计上限)。