内容提要
Epoch AI与Artificial Analysis构建了最大规模LLM推理价格数据集,发现每美元智能每年增长5至10倍,但前沿模型实际运行成本因规模和推理需求上升3至18倍。算法效率与规模扩张并行,NVIDIA提出“intelligence per dollar”指标。Agent后训练投资回报率提升,需平衡效率红利与成本。
延伸解读
效率与成本的悖论
论文揭示了一个关键矛盾:虽然单位性能成本每年下降5至10倍,但前沿模型的实际运行成本却因规模扩大和推理链增长而上升3至18倍。这意味着,尽管算法效率提升显著,开发者在追求更高绝对性能时,总支出可能不降反升。理解这一悖论对评估AI投资回报至关重要。
“智能每美元”的产业意义
NVIDIA在GTC 2025提出“intelligence per dollar”指标,并在WAIC 2026发布年度更新,表明该指标正从学术走向产业共识。论文为这一指标提供了实证基础,帮助业界在芯片算力持续增长的背景下,量化AI系统的实际经济价值,从而指导基础设施投资决策。
对Agent后训练的启示
当每美元智能以每年5至10倍增长时,在基础模型上进行微调或强化学习的投资回报率显著提升。PostTrainBench和ProRL Agent等工具正是针对这一经济环境的工程回应,旨在算法效率红利与规模扩张成本之间寻找最优平衡,为开发者提供了优化后训练策略的参考。
Q&A
每美元智能每年增长多少倍?
根据Epoch AI与Artificial Analysis的研究,每美元智能每年增长约5倍至10倍。
为什么前沿模型的实际运行成本反而上升?
因为前沿模型的规模持续扩大,且推理链长度不断增加,导致虽然单位性能成本下降,但为了达到更高绝对性能,开发者需要调用更大、更复杂的模型,总支出反而上升。
NVIDIA提出的“intelligence per dollar”指标是什么?
NVIDIA CEO Jensen Huang在GTC 2025上提出“intelligence per dollar”作为衡量AI进展的核心指标,即每美元能够购买到的模型性能,用于评估AI系统的经济价值。
论文中如何衡量“智能”?
论文通过知识检索、逻辑推理、数学解题和软件工程四个基准测试来衡量模型性能,并将每个基准得分与对应API调用成本相除,得到每美元智能的统一度量。
Agent后训练的投资回报率如何变化?
当每美元智能以每年5x-10x的速度增长时,在基础模型之上进行微调或强化学习的投资回报率正在快速提升。
论文的数据集规模如何?
研究团队收集了从2023年至2026年初超过500个LLM API的价格数据,覆盖OpenAI、Anthropic、Google、Meta等主流提供商的数百个模型变体,是迄今为止最大规模的LLM推理价格数据集。