AI成本管理的新经济学
内容提要
企业AI成本管理正从追求token用量转向追求投资回报，核心是测量、归因、控制和优化跨模型、智能体与团队的AI支出，让每美元产生最大业务价值。关键做法包括：按用户、项目或请求标签精细归因成本；避免上下文膨胀，让智能体按需获取信息；用智能路由将约90%任务交给低成本模型，仅少数复杂任务用前沿模型；设置硬性支出上限和差异化预算，先告警再限流；通过追踪和评估把成本与产出挂钩，避免优化损害质量。核心原则是：无法测量就无法管理。
延伸解读
从“烧token”到“算回报”：AI成本管理的目标转变
文章指出，企业AI成本管理正从追求token用量转向追求投资回报。早期行业通过排行榜鼓励使用量，导致有人用无意义循环刷token。现在企业已广泛接受AI，重点应转向衡量“用AI产生的业务影响除以成本”。这意味着成本管理不是单纯减少支出，而是让每美元产生最大价值。读者应关注自身团队是否仍以用量为指标，而忽略了产出与成本的关联。
成本归因：精细到请求标签才能回答“钱花在哪、换来了什么”
文章强调，成本归因要回答两个问题：支出从哪来、得到了什么。基础层面可按用户、团队、项目归因，但更精细的做法是给每个请求打标签，例如关联到某个拉取请求、功能或外部客户。Databricks内部已能追踪某个拉取请求花费300美元。读者应意识到，只有归因粒度足够细，才能将成本与具体产出挂钩，避免成本成为一笔糊涂账。
智能路由与上下文管理：多数任务不需要最贵模型
文章指出，约5%到10%的任务真正需要前沿模型，其余90%可由更便宜的模型完成。但员工出于自身激励会默认选择最贵模型。智能路由通过实时评估任务复杂度，将请求导向合适模型，在保持质量的同时降低成本。此外，避免上下文膨胀的关键是让智能体按需获取信息，而非预先推送所有可能内容。读者应检查自身系统是否存在“默认用最贵模型”和“过度推送上下文”的浪费。
支出护栏与质量反馈：先告警再限流，用评估防止优化过度
文章建议设置硬性支出上限，例如典型重度用户每天300美元，上限可设500美元以捕捉异常循环。同时按团队或项目差异化预算，并在触及上限前先告警，再逐步降低模型容量而非 abrupt 关停。成本优化不能牺牲质量，需通过主观反馈和自动评估（如合并后两周内未被回滚的拉取请求）来监控。读者应建立“测量-归因-控制-优化”的闭环，并确保所有AI流量经过统一网关，否则可见性不完整。
Q&A
为什么说“tokenmaxxing”不是企业采用AI的正确策略？
因为tokenmaxxing只追求用量，容易导致刷量行为，比如让智能体循环执行无意义任务来消耗token，而真正应该关注的是投资回报率，即用AI产生的业务价值除以成本。
AI成本归因具体要回答哪两个问题？如何实现细粒度归因？
成本归因要回答“花费来自哪里”和“得到了什么回报”。实现方式包括按用户、团队、项目或组织节点归因，并可通过请求级标签（如关联到具体拉取请求、功能或客户）进行自定义聚合。
上下文膨胀有什么危害？如何从根源上避免？
上下文膨胀会浪费token并分散智能体注意力，增加处理无关信息的开销。最佳做法是不要预先推送所有可能用到的上下文，而是让智能体通过工具、MCP服务器或技能按需获取，仅当90%以上确定信息重要时才默认推送。
智能路由如何决定一个任务该用前沿模型还是低成本模型？
智能路由会实时评估任务复杂度，将约90%的任务交给低成本模型（如自托管开源模型或更便宜的模型系列），仅5-10%真正需要前沿模型的高风险或复杂任务使用前沿模型，从而在保持质量的同时降低成本。
设置AI支出硬性上限和预算时，应该遵循哪些原则？
应为所有组织设置硬性支出上限以捕捉失控使用（如比典型高用量用户高一些），并按团队或项目设置差异化预算。预算触发时应先告警再限流，并可智能降低模型容量（如用完70%预算后切断前沿模型访问），而不是 abrupt 关闭。
如何判断成本优化是否过度，已经损害了输出质量？
需要建立反馈机制：主观反馈来自团队抱怨，客观反馈来自自动化评估（如编码智能体可用“两周内未被回滚的合并拉取请求”作为质量代理指标）。通过对比实验（如预算减半后观察指标变化）来推断预算是否创造价值。
当企业从单个AI应用转向大量智能体时，成本管理会面临什么新挑战？
成本方程会被乘法放大：每个智能体都会消耗需要归因、监控和管理的token，且智能体可能相互调用形成复杂网络。企业应现在就开始建立集中式可观测性和成本管理基础，而不是等复杂度到来时被迫应对。
