推出 Databricks AI Index:企业 AI Token 经济现状

推出 Databricks AI Index:企业 AI Token 经济现状

💡 原文英文,约1900词,阅读约需7分钟。
📝

内容提要

Databricks推出公开的AI Index,结合上万家企业经Unity Gateway的匿名使用数据与基于真实代码任务的编程智能体评测,追踪企业AI模型的采用、支出与性能。数据显示,企业正跨模型版本和供应商分散负载,OpenAI份额上升,但Claude Opus 5.5发布后Anthropic份额回升至68.8%;开源权重模型的token份额从7.3%升至30.9%。基准显示,模型与运行框架的组合决定成败,任务成本差异可达32倍,低价token未必意味着低成本。用户支出分化明显,中位数仅2.49美元,99分位达699.74美元。

🔎

延伸解读

模型选择从“单一供应商”转向“多模型组合”

文章数据显示,使用Unity Gateway的企业中,仅依赖单一模型供应商的比例从7月的约64%降至11月2日的28%,同时开源权重模型的token份额从7.3%升至30.9%。这说明企业正在主动分散负载,避免被单一供应商锁定。对读者而言,这意味着评估AI成本时不能只看某一家厂商的报价,而应关注跨模型、跨版本切换带来的管理复杂度与治理需求。

低价token不等于低成本,任务成本差异可达32倍

基准测试显示,GPT-6 Luna与Claude Opus 5.5任务成功率同为89.1%,但每任务成本分别为0.05美元和1.62美元,相差约32倍。Gemini 3.8 Flash token价格低,却因平均每任务140轮交互成为最贵模型之一(11.97美元/任务)。这提醒读者:评估编程智能体时应以“每完成任务成本”为核心指标,而非单纯比较token单价,额外轮次、长输出和失败重试都会推高实际支出。

质量提升的边际成本很高,需按任务价值取舍

Claude Fable 5.1以96.0%成功率居首,但每任务成本7.47美元;Muse Wonder成功率94.9%,成本仅1.53美元。为提升1.1个百分点,成本接近五倍。文章还提到Fable 5.1的专有token份额在六周内从5.5%降至0.6%,说明企业会用实际使用数据投票。读者可据此判断:高价值、复杂任务可承担溢价模型,常规任务则更适合性价比方案,智能路由有助于按任务匹配模型。

AI支出高度集中,预算管理需关注分布而非均值

数据显示用户AI支出中位数仅2.49美元,而99分位达699.74美元,相差约281倍;中位数周支出六周内从1.10美元翻倍以上,但90分位和99分位基本持平。这表明普通用户消费在增长,但少数重度用户仍贡献大部分账单。对企业而言,仅看平均支出可能低估成本风险,应借助使用看板和预算控制,针对不同用户群体设置差异化限额,避免一刀切限制正常使用。

❓

Q&A

Databricks AI Index 是什么?它包含哪些数据?

Databricks AI Index 是一个公开资源,追踪企业 AI 模型采用、支出趋势和编程智能体性能。它结合了两类数据:一是来自 10,000+ 家使用 Unity Gateway 的企业的聚合匿名使用数据(包括 token 和支出份额、用户每周 AI 支出模式);二是基于 Databricks 工程师真实编程工作流(如创建/审查 PR、调查问题)的编程智能体评测,使用私有代码库和隐藏测试来减少基准污染。

企业使用 AI 模型时,是倾向于单一供应商还是多供应商?

企业正 increasingly 转向多供应商。截至 7 月,约 64% 的企业只依赖一个模型供应商;到 11 月 2 日,这一比例降至 28%,更多组织采用两个或以上供应商的模型。同时,开源权重模型的 token 份额从 7 月的 7.3% 增长到 11 月的 30.9%,不到四个月增长超过四倍。

为什么说低价 token 不一定意味着低成本?

因为每个任务的总成本取决于 token 价格和模型完成任务所需的工作量。额外的推理轮次、长输出和失败重试都会增加成本。例如,Gemini 3.8 Flash 的 token 价格低,但平均每个任务需要 140 轮,最终成为基准中最贵的模型之一,每任务成本 11.97 美元。因此,每完成任务成本比单纯 token 价格更能衡量 AI 效率。

在编程智能体基准中,模型和运行框架(harness)哪个更重要?

两者组合决定成败。基准评估了来自 9 个 AI 实验室的模型在 Claude Code 和 Codex 两种框架下的表现,发现来自 4 个实验室(OpenAI、DeepSeek、Meta、Anthropic)的 5 个模型位于成本-质量前沿。企业需要针对自身工作负载评估模型与框架的组合,使用真实使用数据和追踪来理解性能与成本的权衡。

企业 AI 支出在用户之间差异有多大?

差异极大。中位数用户仅花费 2.49 美元,而第 99 百分位用户花费 699.74 美元,约为前者的 281 倍。中位数每周支出在六周内从 1.10 美元增长了一倍多,而第 90 和第 99 百分位的支出相对持平。这表明 AI 消费在普通用户中增长,但一小部分用户仍贡献了大部分 AI 账单。

Databricks Unity Gateway 如何帮助企业优化 AI 成本?

Unity Gateway 提供集中访问前沿、开源和自定义模型,避免锁定;通过使用仪表板和统一追踪分析 token 消耗、支出和编程智能体活动;利用 Smart Routing 根据质量和性能将编程任务匹配到成本效益高的模型;并设置预算和支出上限控制 AI 支出。企业还可以回放追踪,在自己的工作负载上比较模型性能和成本。

🏷️

标签

➡️

继续阅读