在DeepSeek之后，NVIDIA在GTC大会上将重点放在推理上
内容提要
今年，DeepSeek开发的高效推理模型导致NVIDIA股价下跌。CEO黄仁勋在GTC大会上强调未来应用将依赖AI，预计AI计算需求将增长100倍，并推出新硬件和软件，助力企业建立“AI工厂”。此外，NVIDIA还发布了优化推理速度的新模型Llama Nemotron。
关键要点
-
DeepSeek开发的高效推理模型导致NVIDIA股价下跌，分析师担心大规模AI硬件投资时代结束。
-
NVIDIA CEO黄仁勋在GTC大会上宣布新硬件和软件，强调未来应用将依赖AI，预计AI计算需求将增长100倍。
-
黄仁勋比较了Meta的传统Llama模型与DeepSeek R1，DeepSeek使用了150倍的计算资源，生成了20倍的tokens。
-
黄仁勋指出，推理规模的计算是极端计算，生成的tokens数量将持续增加。
-
NVIDIA正在经历从手动编码软件到基于加速器和GPU的机器学习软件的转变，未来软件开发需要资本投资。
-
NVIDIA推出了DGX Spark和DGX Station，为开发者提供新的计算平台。
-
NVIDIA发布了新的加速器系列，包括Blackwell Ultra和即将推出的Vera Rubin等，显著提高计算性能和内存带宽。
-
NVIDIA计划每年推出新一代芯片，并随后推出优化版本，黄仁勋自嘲为“收入的首席破坏者”。
-
NVIDIA宣布Dynamo项目，旨在加速和扩展AI工厂中的推理模型。
-
NVIDIA推出了新的推理模型Llama Nemotron，优化了推理速度，并在准确性上提高了20%。
-
今年GTC大会的反应较为平淡，部分原因是宣布的内容较少，或技术上令人印象深刻但较为晦涩。
延伸解读
推理模型的市场影响
DeepSeek开发的推理模型引发了市场对NVIDIA未来的担忧，分析师认为大规模AI硬件投资可能进入尾声。这一变化可能影响投资者对NVIDIA的信心，企业在选择AI解决方案时需更加谨慎，关注技术的可持续性与成本效益。
NVIDIA的技术转型
NVIDIA正在经历从传统软件开发向基于加速器和GPU的机器学习软件转型。这一转变意味着企业需要进行更大的资本投资，以适应未来的AI应用需求。开发者应关注NVIDIA新发布的硬件和软件，以便利用其提升推理性能的潜力。
推理速度与准确性的平衡
NVIDIA推出的Llama Nemotron模型在推理速度上进行了优化，并提高了20%的准确性。这表明在AI应用中，推理速度与准确性之间的平衡变得愈发重要，企业在选择推理模型时应考虑其在实际应用中的表现。
延伸问答
DeepSeek的推理模型对NVIDIA股价有什么影响？
DeepSeek开发的高效推理模型导致NVIDIA股价下跌，分析师担心大规模AI硬件投资时代结束。
NVIDIA在GTC大会上发布了哪些新硬件和软件？
NVIDIA在GTC大会上发布了DGX Spark和DGX Station等新硬件，以及新的推理模型Llama Nemotron。
NVIDIA CEO黄仁勋对未来AI计算需求的预测是什么？
黄仁勋预计未来AI计算需求将增长100倍。
NVIDIA的Dynamo项目有什么目标？
Dynamo项目旨在加速和扩展AI工厂中的推理模型，提供优化的框架。
NVIDIA的新推理模型Llama Nemotron有什么特点？
Llama Nemotron优化了推理速度，并在准确性上提高了20%。
NVIDIA在推理计算方面的战略是什么？
NVIDIA强调推理规模的计算是极端计算，并计划每年推出新一代芯片以满足需求。
