AI Gateway 日志现已支持会话亲和性展示
内容提要
AI Gateway日志新增会话视图，将请求按会话分组并展示会话亲和性路由情况。每行显示运行会话的编码代理或应用（如Claude Code、Codex、Cursor）及其成本、模型、提供商和缓存命中率。会话亲和性默认对文本和聊天请求启用，将每轮请求发送至上一轮的提供商以提升缓存复用。可按轮次、客户端、模型、提供商等筛选会话，也可通过sessionId或x-session-id头手动分组。
延伸解读
会话亲和性如何提升缓存复用
会话亲和性默认对文本和聊天请求启用，其核心机制是将每一轮请求发送至上一轮提供服务的提供商。这样，提供商已经缓存了大部分提示内容，从而减少重复计算。文章指出，始终停留在同一提供商的会话能从缓存中读取更多提示内容，这直接影响了缓存命中率。对于依赖多轮对话的编码代理或应用，这种路由策略有助于降低延迟和成本，但前提是提供商支持并正确维护缓存。
会话视图的实用筛选与分组
日志的会话视图支持按轮次、客户端、模型、提供商、认证或成本筛选会话。默认情况下，单轮会话会被隐藏，直到用户清除最小轮次过滤条件。此外，用户可以通过在providerOptions.gateway中传递相同的sessionId，或在每个请求中设置相同的x-session-id头来手动分组请求。未提供这些标识的请求会按对话开头的指纹分组，并显示为指纹会话。这些功能帮助用户聚焦于多轮交互的会话，并灵活地按需组织日志。
会话详情中的路径与提供商追踪
打开一个会话后，可以查看其缓存命中率、持续时间以及路径。路径列出了每一轮使用的模型和耗时，并标明了当前提供服务的提供商以及之前使用过的提供商。这种追踪方式让用户能够直观地了解会话在多个提供商之间的迁移情况，以及每一轮请求的具体表现。结合每行显示的成本、模型、提供商和缓存命中率，用户可以更细致地分析会话的效率和路由行为。
Q&A
AI Gateway 日志的 Sessions 视图是什么？
Sessions 视图是 AI Gateway 日志新增的功能，它将请求按会话分组，并展示会话亲和性如何路由每个请求。每行显示运行会话的编码代理或应用（如 Claude Code、Codex、Cursor）及其成本、模型、提供商和输入缓存比例。
会话亲和性是如何工作的？
会话亲和性默认对文本和聊天请求启用，它将每一轮请求发送到服务上一轮请求的提供商，这样提供商已经缓存了大部分提示，从而提升缓存复用。会话保持在同一提供商时，能从缓存中读取更多提示内容。
如何手动将请求分组到同一个会话？
可以在每个请求的 providerOptions.gateway 中发送相同的 sessionId，或者使用相同的 x-session-id 头，来自行分组请求。没有提供这些标识的请求会按对话开头的指纹分组，并显示为指纹会话。
在 Sessions 视图中可以按哪些条件筛选会话？
可以按轮次、客户端、模型、提供商、认证或成本筛选会话。单轮会话默认隐藏，直到清除最小轮次筛选条件才会显示。
打开一个会话后能看到哪些详细信息？
打开会话后可以看到缓存命中率、持续时间和路径。路径列出每一轮及其模型和耗时，并标明服务该会话的提供商以及之前使用过的提供商。
会话亲和性对缓存有什么好处？
会话亲和性将每轮请求发送到上一轮的提供商，使提供商已经缓存了大部分提示，从而提升缓存复用。会话保持在同一提供商时，能从缓存中读取更多提示内容，提高缓存命中率。
