AI Gateway现已支持为每个推理提供者设置超时,以实现更快的故障转移。如果提供者在配置的超时时间内未响应,AI Gateway将中止请求并切换到下一个可用提供者。目前此功能仅适用于BYOK凭证,系统提供者的超时支持即将推出。
完成下面两步后,将自动完成登录并继续当前操作。