Vulkan 1.4.359 扩展了协作矩阵功能

Vulkan 1.4.359 扩展了协作矩阵功能

💡 原文中文,约900字,阅读约需3分钟。
📝

内容提要

Vulkan 1.4.359发布,新增VK_EXT_cooperative_matrix_maintenance1扩展,增强协作矩阵功能,支持类型转换、归约及逐元素操作,加速机器学习推理等任务。该扩展由NVIDIA、高通、英特尔和Arm工程师共同开发,并提供新查询命令以优化属性。

🔎

延伸解读

协作矩阵的演进脉络

Vulkan 1.4.359 中的新扩展并非凭空出现,而是建立在 2023 年 Vulkan 1.3.255 引入的 VK_KHR_cooperative_matrix 基础之上。该基础扩展已用于机器学习推理、图形后处理、物理模拟等任务,而新扩展则在此基础上进一步扩展功能,体现了 Vulkan 在异构计算领域持续迭代的趋势。

新扩展的实际意义

VK_EXT_cooperative_matrix_maintenance1 不仅支持简单的 GEMM 内核,还新增了类型/用途转换、归约、逐元素操作等功能,这意味着开发者可以更灵活地利用协作矩阵加速更多类型的计算任务,而不仅仅是矩阵乘法。这对于需要复杂数据操作的机器学习推理等场景尤为实用。

多厂商合作与查询命令

该扩展由 NVIDIA、高通、英特尔和 Arm 的工程师共同开发,反映了跨平台图形 API 的协作特性。新增的查询命令允许开发者输入所需子组大小或本地工作组大小,从而获取更精确的属性信息,有助于针对不同硬件优化性能。

Q&A

Vulkan 1.4.359 新增了哪个扩展?

Vulkan 1.4.359 新增了 VK_EXT_cooperative_matrix_maintenance1 扩展,用于增强协作矩阵功能。

VK_EXT_cooperative_matrix_maintenance1 扩展有哪些新功能?

该扩展支持类型/用途转换、归约、逐元素操作,以及将元素索引转换为矩阵坐标,从而加速除简单 GEMM 内核之外的更多功能。

Vulkan 的协作矩阵支持最初是在哪个版本引入的?

Vulkan 的协作矩阵支持最初是在 2023 年的 Vulkan 1.3.255 版本中通过 VK_KHR_cooperative_matrix 扩展引入的。

VK_EXT_cooperative_matrix_maintenance1 扩展由哪些公司共同开发?

该扩展由 NVIDIA、高通、英特尔和 Arm 的工程师共同完成。

VK_EXT_cooperative_matrix_maintenance1 扩展提供了什么新命令?

该扩展提供了一个用于查询协作矩阵属性的新命令,该命令包含所需子组大小的输入,并允许实现公开仅在特定子组大小或本地工作组大小下最优或兼容的属性。

VK_KHR_cooperative_matrix 扩展可以用于哪些任务?

VK_KHR_cooperative_matrix 扩展可用于机器学习推理、图形后处理、物理模拟等任务。

🏷️

标签

➡️

继续阅读