内容提要
AI Gateway新增专用日志页面,按时间列出所有请求,显示成本、令牌数、时长及模型、提供商和区域。支持按提供商、模型等筛选,并可导出CSV或JSON。点击请求可查看详细成本、令牌分解及回退路径,包括每次尝试的状态和失败原因。
延伸解读
日志页面的核心价值
AI Gateway 新增的日志页面将每次请求的详细信息集中展示,包括成本、令牌数、时长以及模型、提供商和区域。这为团队提供了统一的观测入口,便于追踪请求的完整生命周期。通过点击任意请求,还能查看回退路径和每次尝试的状态,有助于快速定位问题。
筛选与导出功能
日志页面支持按提供商、模型、模态、凭据或状态进行筛选,并可通过模型、提供商或请求 ID 搜索。所有筛选条件都会保存在 URL 中,方便分享。此外,当前视图可导出为 CSV 或 JSON,便于离线分析或与其他工具集成。
回退路径的透明度
每个请求的详情页会列出所有提供商尝试的顺序,包括模型、提供商、状态码、凭据和耗时。失败尝试会显示原因,如提供商超时或路由预算耗尽。这种透明度有助于理解请求失败的具体环节,并为优化路由策略提供依据。
Q&A
AI Gateway的日志页面有什么新功能?
AI Gateway新增了专属日志页面,按时间倒序列出所有请求,显示成本、令牌数、时长、模型、提供商和区域。支持筛选、搜索、导出CSV或JSON,并可点击请求查看详细信息和回退路径。
如何在AI Gateway日志中筛选和搜索请求?
可以按提供商、模型、模态、凭据或状态筛选,也可以按模型、提供商或请求ID搜索。筛选条件会保存在URL中,方便分享。图表上方显示请求数量,可拖动缩放时间范围。
AI Gateway日志支持导出哪些格式?
支持将当前视图(应用了筛选条件)导出为CSV或JSON格式。
点击AI Gateway日志中的请求可以看到哪些详细信息?
可以查看总成本、令牌分解(输入、输出、推理、缓存读取和写入)、时长、首个令牌时间,以及是否应用了零数据保留和区域限制。还会显示回退路径,列出每次提供商尝试的模型、提供商、状态码、凭据和耗时,失败尝试会包含原因。
AI Gateway日志中的回退路径是什么?
回退路径按顺序列出请求尝试过的每个提供商,显示每次尝试的模型、提供商、状态码、凭据和耗时,失败尝试会说明原因,如提供商超时或路由预算耗尽。
AI Gateway日志页面在什么范围内可用?
日志页面在团队范围(team scope)和每个项目(per project)中均可用。