本文介绍如何检查AOTInductor生成的Triton内核SASS。AOTInductor是PyTorch后端编译器,可生成预优化推理引擎,其Triton内核以cubin文件存于pt2包中。解压后用nvdisasm或cuobjdump反汇编即可查看SASS。示例验证了128位向量化内存指令LDG.E.128和STG.E.128确实被生成。
本文介绍了如何使用CUDA驱动API动态加载PTX、CUBIN和FATBIN文件,并通过示例代码展示CUDA内核的编译与运行过程,强调了`extern "C"`的重要性,并提供了相关的Python脚本。
完成下面两步后,将自动完成登录并继续当前操作。