AI Gateway日志新增会话视图，将请求按会话分组并展示会话亲和性路由情况。每行显示运行会话的编码代理或应用（如Claude Code、Codex、Cursor）及其成本、模型、提供商和缓存命中率。会话亲和性默认对文本和聊天请求启用，将每轮请求发送至上一轮的提供商以提升缓存复用。可按轮次、客户端、模型、提供商等筛选会话，也可通过sessionId或x-session-id头手动分组。

提示缓存通过重用已计算的KV状态来节省成本和降低延迟。现代推理引擎在单个副本中自动处理缓存，但在多个副本中缓存命中率降低。使用会话亲和性可以确保请求路由到同一副本，从而提高缓存利用率。理想的架构是共享缓存，但实现难度较大。目前团队应关注会话亲和性和良好的提示结构，以优化性能。