TechWeb 全站精华
·
DeepSeek一句话，国产芯片算力大爆发，寒武纪市值突破5000亿
💡
原文中文，约1700字，阅读约需5分钟。
📝
内容提要
DeepSeek发布V3.1大模型，采用UE8M0 FP8格式，优化国产AI芯片的计算效率，提升推理速度，节省显存和带宽。市场对国产芯片反应热烈，相关股价大幅上涨，推动自主AI生态发展。
🎯
关键要点
- DeepSeek发布V3.1大模型，采用UE8M0 FP8格式，优化国产AI芯片的计算效率。
- 市场对国产芯片反应热烈，相关股价大幅上涨，推动自主AI生态发展。
- DeepSeek-V3.1使用UE8M0 FP8 Scale的参数精度，分词器和chat template进行了较大调整。
- UE8M0 FP8是一种专为AI计算设计的8位浮点数格式，优化矩阵运算和AI计算。
- 采用UE8M0 FP8格式可以加速计算，显著降低计算复杂度和功耗。
- FP8格式相比FP16或FP32可减少50%-75%的显存占用和带宽需求。
- DeepSeek-V3.1的UE8M0 FP8标准旨在与多种国产AI芯片进行深度适配。
- DeepSeek模型与国产芯片的适配推动了自主可控的AI生态构建。
- 大模型的需求将推动国产芯片在各个技术环节进行升级。
➡️
