内容提要
Vercel 宣布其仪表盘和 Slack 中的 Agent 会话平均成本降低 67%。团队重构了 Agent 的上下文管理方式,减少每次会话所需 token 并提升提示缓存复用率,改进已生效且无需用户操作。主要变化包括:基于工作流的 CLI 技能为常见流程和错误恢复提供更清晰指引;增量上下文管理使长对话和长 Slack 线程处理更高效;改进提示缓存以复用更多上下文;更高效的编码与规划减少 token 消耗。计费费率不变,付费会话按模型提供商推理费率加每百万 token 0.25 美元的 Agent 费用计费。
延伸解读
成本下降源于工程优化,而非计费调整
Vercel 明确表示计费费率不变,付费会话仍按模型提供商推理费率加每百万 token 0.25 美元的 Agent 费用计费。67% 的平均成本降幅来自上下文管理、提示缓存和编码规划等环节的 token 消耗减少,属于技术优化带来的实际节省,而非降价促销。
增量上下文管理对长对话场景影响更明显
文章提到 Agent 能更高效地管理随对话增长而扩大的上下文,包括长 Slack 线程。这意味着在长时间、多轮次的会话中,token 消耗的累积效应会被抑制,成本节省可能比短会话更显著。不过文章未给出不同会话长度下的具体降幅数据。
CLI 技能更新惠及其他 Agent
基于工作流的 CLI 技能为常见流程和错误恢复提供了更清晰的指引,且其他使用这些技能的 Agent 也能受益。这表明改进不仅限于 Vercel Agent 自身,还可能通过共享技能生态影响更广泛的 Agent 使用场景,但文章未说明具体受益范围或程度。
Q&A
Vercel Agent 会话成本降低了多少?
Vercel Agent 在仪表盘和 Slack 中的会话平均成本降低了 67%。
Vercel 是如何实现 Agent 会话成本降低的?
Vercel 重构了 Agent 的上下文管理方式,减少了每次会话所需的 token 数量,并提高了提示缓存的复用率。具体包括:基于工作流的 CLI 技能提供更清晰的指引;增量上下文管理更高效地处理长对话和长 Slack 线程;改进提示缓存以复用更多上下文;更高效的编码与规划减少 token 消耗。
这些成本优化需要用户做什么操作吗?
不需要,这些改进已经生效,用户无需进行任何操作。
Vercel Agent 的计费费率有变化吗?
计费费率保持不变。付费会话仍按模型提供商的推理费率加上每百万 token 0.25 美元的 Vercel Agent 费用计费。
增量上下文管理具体优化了什么场景?
增量上下文管理使 Agent 在对话增长时能更高效地管理上下文,特别包括处理长 Slack 线程等场景。
基于工作流的 CLI 技能有什么好处?
更新后的 Vercel CLI 技能为常见工作流和错误恢复提供了更清晰的指引,使用这些技能的其他 Agent 也能从中受益。