AI网关现支持团队和项目支出预算

AI网关现支持团队和项目支出预算

💡 原文英文,约400词,阅读约需2分钟。
📝

内容提要

AI网关现支持按团队、项目或API密钥设置支出预算,可设定美元限额,超限即停止请求直至重置或调整。仪表盘提供预算总览、邮件提醒(50%、75%、100%阈值)及默认预算继承功能,CLI也可管理预算,支持日、周、月或无周期刷新。

🔎

延伸解读

多级预算的叠加逻辑

预算可同时作用于团队、项目和API密钥三个层级,一个请求可能同时受多个预算约束。只有当所有相关预算都未超限时,请求才会被放行;任一预算超限,即使其他预算仍有余额,请求也会被拒绝。这种设计有助于实现精细的成本控制,但需要留意各层级预算的协调,避免因单一层级超限而影响整体服务。

默认预算与显式预算的优先级

系统支持为项目或API密钥设置默认预算,未单独设置预算的实体将自动继承默认值。但显式设置的预算始终优先于默认预算。这一机制简化了预算管理,尤其适合需要统一管控的场景,但需注意显式预算的配置,以免意外覆盖默认策略。

预算刷新周期与提醒机制

预算刷新周期支持日、周、月或无周期(累计上限),默认按月刷新。邮件提醒默认关闭,可在达到限额的50%、75%和100%时通知指定收件人,但提醒仅作通知,不会阻止请求,只有预算限额本身才会阻断请求。建议根据实际使用频率设置合适的刷新周期,并开启提醒以提前应对潜在的超支风险。

Q&A

AI网关的支出预算可以按哪些范围设置?

AI网关的支出预算可以按团队、项目或API密钥三种范围设置。

当请求超过预算限制时会发生什么?

当请求超过预算限制时,网关会停止处理后续请求,直到预算重置或提高限额。如果请求同时受多个预算约束,只要其中一个超限,请求就会被拒绝。

如何在仪表盘中查看和管理预算?

在AI网关的预算标签页中,可以查看所有预算的支出概览,并设置预算、刷新周期和邮件提醒。邮件提醒默认关闭,可在达到限额的50%、75%或100%时通知。

如何设置默认预算?

可以为项目或API密钥设置默认预算,这样没有明确预算的项目或密钥会自动继承默认预算。明确设置的预算会覆盖默认预算。

CLI中如何设置团队预算?

使用命令 `vercel ai-gateway budgets set team --limit 500 --refresh-period monthly` 可以设置团队预算,其中 --limit 指定美元限额,--refresh-period 指定刷新周期(日、周、月或无)。

预算的刷新周期有哪些选项?

预算的刷新周期可以是每日、每周、每月(默认)或无(累计上限)。

🏷️

标签

➡️

继续阅读