Cloudflare在AI Gateway推出Auto Router公开测试版,用户可将模型设为cloudflare/auto,系统自动按任务难度选择足够胜任的模型,无需手动挑选。内部测试显示,相比只用前沿模型,成本最多降低30%,性能接近Opus等顶级模型。其流程为先筛选可用模型,再用分类器判断任务类型与复杂度,结合价格和缓存成本评分,选出性价比最高者。
Cloudflare 为 AI Gateway 推出 User Insights 更新,可分析任务类型、对话轮次与成本,识别高能力模型被用于简单任务的情况,并关联具体用户、代理和应用。配套的 Auto Router 进入测试,能自动为任务选择合适模型以降低成本。分类异步进行,不增加请求延迟。
完成下面两步后,将自动完成登录并继续当前操作。