Vercel News
·
Vercel AI Gateway 现已支持模型备用功能
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
Vercel的AI Gateway现支持备用模型，以应对模型失败或不可用的情况。备用模型能够处理错误和能力不匹配，按指定顺序尝试，直到请求成功或无选项可用。请求费用基于成功完成的模型。
🎯
关键要点
- Vercel的AI Gateway现在支持备用模型，以应对模型失败或不可用的情况。
- 备用模型可以处理错误和能力不匹配，按指定顺序尝试，直到请求成功或无选项可用。
- 请求费用基于成功完成的模型。
- 备用模型可以在主模型不支持多模态能力时进行回退。
- 可以在providerOptions中指定模型备用选项。
- AI Gateway还包括内置可观察性、支持自带密钥和兼容OpenAI的API。
❓
延伸问答
Vercel的AI Gateway的备用模型有什么作用？
备用模型用于应对模型失败或不可用的情况，能够处理错误和能力不匹配。
如何在Vercel的AI Gateway中指定备用模型？
可以在providerOptions中指定模型备用选项，按指定顺序尝试备用模型。
请求费用是如何计算的？
请求费用基于成功完成的模型。
备用模型如何处理多模态能力不匹配？
当主模型不支持多模态能力时，备用模型可以进行回退以处理相关请求。
Vercel的AI Gateway支持哪些API？
AI Gateway支持OpenAI兼容的API，并包括自带密钥的功能。
Vercel的AI Gateway有哪些内置功能？
AI Gateway包括内置可观察性和支持自带密钥的功能。
➡️
