张善友
·
DeepSeek采用的UE8M0 FP8 为什么引爆了A股的芯片板块 - 张善友
💡
原文中文，约2800字，阅读约需7分钟。
📝
内容提要
DeepSeek-V3.1采用UE8MO FP8参数精度，显著提升AI模型训练效率，降低显存占用，支持国产芯片发展，助力应对技术封锁。
🎯
关键要点
- DeepSeek-V3.1采用UE8MO FP8参数精度，提升AI模型训练效率。
- V3.1对分词器及chat template进行了较大调整，与DeepSeek-V3存在明显差异。
- UE8MO FP8是针对下一代国产芯片设计的缩放因子格式。
- MXFP8格式通过块缩放和硬件原生支持提升计算效率和降低显存占用。
- MXFP8能带来计算效率提升、显存占用降低和功耗降低。
- 国产AI芯片厂商积极布局MXFP8等低精度格式的支持，构建软硬协同生态。
- 支持MXFP8有助于缩小国产芯片与国际顶尖产品的性能差距。
- 选择支持MXFP8的国产AI芯片时需确认原生支持、软件生态和实际性能。
❓
延伸问答
UE8M0 FP8是什么，它的主要特点是什么？
UE8M0 FP8是一种缩放因子格式，结合了微缩块技术，能有效提升大模型训练效率，降低显存占用。其主要特点包括支持低精度计算、硬件友好性和动态范围大。
DeepSeek-V3.1如何利用UE8M0 FP8提升AI模型训练效率？
DeepSeek-V3.1通过采用UE8M0 FP8参数精度，显著提升了AI模型训练效率，降低了显存占用，支持国产芯片的发展。
MXFP8格式的优势是什么？
MXFP8格式通过块缩放和硬件原生支持，能提升计算效率、降低显存占用和功耗，特别适合大模型训练和推理。
国产AI芯片厂商如何布局MXFP8支持？
国产AI芯片厂商积极布局MXFP8等低精度格式的支持，通过软硬协同生态构建，优化算法和软件层面，提升芯片性能。
选择支持MXFP8的国产AI芯片时需要考虑哪些因素？
选择时需确认芯片是否原生支持FP8计算、软件生态的适配情况、实际性能表现及量产进度。
UE8M0 FP8如何应对技术封锁带来的挑战？
支持UE8M0 FP8等先进格式有助于缩小国产芯片与国际顶尖产品的性能差距，推动国产算力发展，尤其在技术封锁背景下尤为重要。
➡️
