AI Gateway日志现拥有专属页面

AI Gateway日志现拥有专属页面

💡 原文英文,约300词,阅读约需1分钟。
📝

内容提要

AI Gateway新增专用日志页面,按时间列出所有请求,显示成本、令牌数、时长及模型、提供商和区域。支持按提供商、模型等筛选,并可导出CSV或JSON。点击请求可查看详细成本、令牌分解及回退路径,包括每次尝试的状态和失败原因。

🔎

延伸解读

日志页面的核心价值

AI Gateway 新增的日志页面将每次请求的详细信息集中展示,包括成本、令牌数、时长以及模型、提供商和区域。这为团队提供了统一的观测入口,便于追踪请求的完整生命周期。通过点击任意请求,还能查看回退路径和每次尝试的状态,有助于快速定位问题。

筛选与导出功能

日志页面支持按提供商、模型、模态、凭据或状态进行筛选,并可通过模型、提供商或请求 ID 搜索。所有筛选条件都会保存在 URL 中,方便分享。此外,当前视图可导出为 CSV 或 JSON,便于离线分析或与其他工具集成。

回退路径的透明度

每个请求的详情页会列出所有提供商尝试的顺序,包括模型、提供商、状态码、凭据和耗时。失败尝试会显示原因,如提供商超时或路由预算耗尽。这种透明度有助于理解请求失败的具体环节,并为优化路由策略提供依据。

Q&A

AI Gateway的日志页面有什么新功能?

AI Gateway新增了专属日志页面,按时间倒序列出所有请求,显示成本、令牌数、时长、模型、提供商和区域。支持筛选、搜索、导出CSV或JSON,并可点击请求查看详细信息和回退路径。

如何在AI Gateway日志中筛选和搜索请求?

可以按提供商、模型、模态、凭据或状态筛选,也可以按模型、提供商或请求ID搜索。筛选条件会保存在URL中,方便分享。图表上方显示请求数量,可拖动缩放时间范围。

AI Gateway日志支持导出哪些格式?

支持将当前视图(应用了筛选条件)导出为CSV或JSON格式。

点击AI Gateway日志中的请求可以看到哪些详细信息?

可以查看总成本、令牌分解(输入、输出、推理、缓存读取和写入)、时长、首个令牌时间,以及是否应用了零数据保留和区域限制。还会显示回退路径,列出每次提供商尝试的模型、提供商、状态码、凭据和耗时,失败尝试会包含原因。

AI Gateway日志中的回退路径是什么?

回退路径按顺序列出请求尝试过的每个提供商,显示每次尝试的模型、提供商、状态码、凭据和耗时,失败尝试会说明原因,如提供商超时或路由预算耗尽。

AI Gateway日志页面在什么范围内可用?

日志页面在团队范围(team scope)和每个项目(per project)中均可用。

🏷️

标签

➡️

继续阅读