量子位
·
DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡
💡
原文中文，约3800字，阅读约需9分钟。
📝
内容提要
DeepSeek通过算法创新降低了AI推理的硬件要求，推动了需求的爆发。英伟达H20因其高性价比受到欢迎。未来，小集群和单机将成为主流，AI基础设施厂商需优化成本以支持AI应用的广泛落地。
🎯
关键要点
- DeepSeek通过算法创新降低了AI推理的硬件要求，推动了需求的爆发。
- 英伟达H20因其高性价比受到欢迎，市场需求激增。
- 未来，小集群和单机将成为AI基础设施的主要特性。
- DeepSeek重构了AI算力逻辑，推动AI计算从训练为主向推理为主转变。
- DeepSeek-V3和DeepSeek-R1-Zero通过新架构和算法提升推理效率，降低成本。
- 推理Scaling Law成为新方向，推动推理计算需求大幅增加。
- DeepSeek提供开源替代方案，促进企业拥抱AI，加速AI落地进程。
- AI推理时代对云计算和AI基础设施提出新需求，要求优化与降本。
- AI Infra厂商在技术和成本优化上具有生态位优势，能够提供弹性算力。
- PPIO通过分布式架构和技术创新提升AI推理服务的效率和稳定性。
- DeepSeek的成功需要全产业上下游的合作，以加速大规模应用落地。
❓
延伸问答
DeepSeek如何改变了AI推理的硬件要求？
DeepSeek通过算法创新降低了AI推理的硬件要求，推动了需求的爆发。
为什么英伟达H20的需求激增？
英伟达H20因其高性价比和适合大规模参数模型的特性，受到市场欢迎，需求激增。
未来AI基础设施的主要特性是什么？
未来AI基础设施将以小集群和单机为主流特性。
DeepSeek-V3和DeepSeek-R1-Zero的主要创新是什么？
DeepSeek-V3采用混合专家模型架构提升推理效率，DeepSeek-R1-Zero利用强化学习提升语言模型推理能力。
推理Scaling Law对AI推理需求有什么影响？
推理Scaling Law通过增加推理时计算资源来提升模型性能，导致推理计算需求大幅增加。
AI Infra厂商在推理时代面临哪些新需求？
推理时代对云计算和AI基础设施提出了优化与降本的新需求。
➡️
