💡
原文中文，约3800字，阅读约需9分钟。
📝
内容提要
DeepSeek宣布其V3/R1推理系统，理论日收入为562,027美元，成本利润率为545%。该系统通过跨节点专家并行和负载平衡优化吞吐量与延迟。尽管开源持续，实际收入低于预期，原因是定价较低及部分服务免费。
🎯
关键要点
- DeepSeek宣布V3/R1推理系统，理论日收入为562,027美元，成本利润率为545%。
- 实际收入低于预期，原因包括定价较低和部分服务免费。
- DeepSeek-V3/R1系统通过跨节点专家并行和负载平衡优化吞吐量与延迟。
- 系统设计采用跨节点专家并行策略，显著提高GPU矩阵计算效率。
- EP策略降低了内存访问需求，从而减少延迟，但增加了系统复杂性。
- DeepSeek采用预填充-解码分解架构，在不同阶段使用不同程度的并行性。
- 通过dual-batch重叠策略，DeepSeek隐藏通信成本，提高整体吞吐量。
- 实现负载平衡是DeepSeek的关键目标，以最大化资源利用率。
- DeepSeek在线推理服务在H800 GPU上运行，确保最佳服务性能。
- 在过去24小时内，V3和R1推理业务的合并峰值节点占用达到278个。
- DeepSeek表示实际收入大幅低于理论收入，主要由于定价和服务模式的原因。
❓
延伸问答
DeepSeek V3/R1推理系统的理论日收入是多少？
理论日收入为562,027美元。
DeepSeek V3/R1推理系统的成本利润率是多少？
成本利润率为545%。
为什么DeepSeek的实际收入低于理论收入？
实际收入低于预期的原因包括定价较低和部分服务免费。
DeepSeek V3/R1推理系统如何优化吞吐量与延迟？
通过跨节点专家并行和负载平衡来优化吞吐量与延迟。
DeepSeek采用了什么策略来降低内存访问需求？
采用了跨节点专家并行（EP）策略来降低内存访问需求。
DeepSeek V3/R1推理系统的运行节点是什么？
DeepSeek在线推理服务在H800 GPU上运行。
➡️
