文章讨论生产环境AI智能体的令牌浪费问题,总结七种常见模式:上下文无限累积、工具结果未压缩、检索粗放、工具模式臃肿、思维链循环失控、忽视KV缓存前缀、简单任务用大模型。对应修复包括滑动窗口与摘要、中间件过滤、AST检索、状态机裁剪工具、熔断器、静态前缀排序和级联路由。核心观点是令牌优化关乎系统稳定,需依真实追踪权衡取舍。
完成下面两步后,将自动完成登录并继续当前操作。