Vulkan 为 OCP 的微扩展 MX 格式添加扩展,以帮助机器学习

Vulkan 为 OCP 的微扩展 MX 格式添加扩展,以帮助机器学习

💡 原文中文,约700字,阅读约需2分钟。
📝

内容提要

2026年7月3日,Vulkan 1.4.356 发布,新增扩展 VK_EXT_shader_ocp_microscaling_types,支持微缩放数据类型,旨在提升机器学习效率。该扩展由NVIDIA、三星等公司共同开发,重点在于提高计算吞吐量和降低内存带宽需求。

🎯

关键要点

  • 2026年7月3日,Vulkan 1.4.356 发布,新增扩展 VK_EXT_shader_ocp_microscaling_types。

  • VK_EXT_shader_ocp_microscaling_types 支持开放计算项目 (OCP) 的微缩放 MX 数据类型,旨在提升机器学习效率。

  • OCP 微缩放格式包括 MXFP4、MXFP6、MXFP8 和 MXINT8,旨在提高 AI 训练和推理的效率。

  • 该扩展增加了对 OCP MX 格式规范中定义的浮点类型的支持,但未直接支持微缩放张量或对微缩放数据进行操作。

  • VK_EXT_shader_ocp_microscaling_types 的开发由 NVIDIA、三星、Imagination 和 Arm 共同参与,旨在提高计算吞吐量并降低内存带宽要求。

🏷️

标签

➡️

继续阅读