在AI Gateway上设置每用户预算

在AI Gateway上设置每用户预算

💡 原文英文,约500词,阅读约需2分钟。
📝

内容提要

AI Gateway新增用户预算功能,可为团队每位成员设置美元消费上限,覆盖其所有API密钥和应用令牌。支持默认预算和自定义预算,按月、周、日或永久重置,并可通过邮件提醒使用率。用户预算不替代API密钥、项目或团队预算,请求需满足所有适用限制。可通过Vercel CLI设置,需升级至59.6.2以上版本。

🔎

延伸解读

预算层级与覆盖范围

用户预算并非独立生效,而是与API密钥、项目和团队预算叠加。每个请求必须同时满足所有适用的预算限制,任一限制达到上限都会阻止新请求。因此,设置用户预算时需考虑与其他预算的配合,避免因多层限制导致请求被意外阻断。

密钥归属与预算影响

API密钥默认归属于创建者,其消费会计入该用户的预算。对于生产应用或共享工作负载的密钥,建议在API Keys页面将其归属改为团队,以避免消耗创建者的个人预算。注意,功能发布前创建的密钥默认归属团队,如需将当前使用计入用户预算,需轮换为新密钥。

预算重置与提醒机制

默认和自定义用户预算默认按月重置,但可调整为按日、周或永久不重置。预算支持通过邮件提醒使用率,可在50%、75%和100%时通知。合理设置重置周期和提醒阈值,有助于及时掌握消费情况,避免超出预算。

Q&A

AI Gateway的用户预算功能是什么?

AI Gateway的用户预算功能允许为团队中的每个用户设置美元消费上限,该上限覆盖用户的所有API密钥和应用令牌的消费。当达到上限后,AI Gateway会拒绝新的请求,直到预算重置或增加。

如何设置用户预算?

可以通过Vercel仪表板的预算页面中的用户视图来设置,也可以使用Vercel CLI。在仪表板中,可以设置默认预算和自定义预算。使用CLI时,需要升级到59.6.2或更高版本,然后使用命令如`vercel ai-gateway budgets defaults set user --limit 50 --refresh-period monthly`设置默认预算,或使用`vercel ai-gateway budgets set user teammate@example.com --limit 100 --refresh-period monthly`设置自定义预算。

默认预算和自定义预算有什么区别?

默认预算适用于所有没有自定义预算的用户,包括之后添加的用户,每个用户获得独立的额度。自定义预算适用于特定用户,并覆盖默认预算。如果移除自定义预算,该用户将回到默认预算。

用户预算可以按什么周期重置?

用户预算默认按月重置,但可以更改为按日、按周或永不重置。

用户预算与API密钥、项目或团队预算的关系是什么?

用户预算不会替代API密钥、项目或团队预算。一个请求必须满足所有适用的预算限制,任何达到上限的预算都会阻止新请求。

如何将API密钥的消费从用户预算中排除?

如果API密钥属于生产应用或共享工作负载,可以在API密钥页面将其归属为团队,这样其消费就不会计入创建者的用户预算。对于在用户预算功能发布之前创建的密钥,默认归属为团队,如果需要将当前使用计入用户范围,需要轮换到新密钥。

谁可以管理用户预算?

团队所有者可以管理用户预算,也可以从团队成员设置中授予其他成员AI Gateway预算管理员的权限。

用户预算是否支持使用率提醒?

是的,用户预算支持通过电子邮件提醒使用率,可以在达到分配的50%、75%和/或100%时收到通知。

🏷️

标签

➡️

继续阅读