Lei Mao's Log Book
·
CuTe线程值布局
💡
原文英文，约800词，阅读约需3分钟。
📝
内容提要
CuTe线程值布局（TV布局）用于将张量划分为小张量，使线程组中的每个线程按照特定模式访问数据。TV布局将线程与数据坐标映射，便于分块复制和MMA操作。反向TV布局则将数据元素坐标映射到线程索引，以验证数据访问模式。CuTe TV分区通过计算线程坐标简化了数据访问过程。
🎯
关键要点
- CuTe线程值布局（TV布局）用于将张量划分为多个小张量，以特定访问模式被线程组中的每个线程访问。
- TV布局将线程与数据坐标映射，便于分块复制和MMA操作。
- 反向TV布局将数据元素坐标映射到线程索引，以验证数据访问模式。
- CuTe TV分区通过计算线程坐标简化了数据访问过程。
- TV布局的第一模式对应线程组中的线程，第二模式对应每个线程将访问的值。
- CuTe反向TV布局用于说明和验证数据访问模式是否符合预期。
- CuTe TV分区是将大张量根据TV布局划分为多个小张量的方式，访问方式简单明了。
- 通过计算线程在线程组中的坐标，可以选择特定线程的分区。
➡️
