2026年9月，英伟达发布cuda-oxide和cutile-rs，首次支持用Rust直接编写GPU内核并编译为PTX，无需C/C++。cuda-oxide采用SIMT路线，需nightly工具链，用DisjointSlice保证内存安全；cutile-rs采用Tile路线，stable Rust即可，靠所有权与分区机制。两者均能在编译期捕获内存别名与数据竞争。但社区指出，CubeCL/Burn等已有先例，且地址空间抽象、供应商锁定与性能可移植性仍是“纯Rust AI栈”的真正障碍。
xAI的Colossus集群拥有55万块GPU，但模型浮点运算利用率仅约11%，远低于行业35%至45%的水平。为此，xAI放弃JAX和PyTorch，改用C++和CUDA重写训练栈，并大量使用内联PTX直接控制GPU以逼近裸金属性能。Grok 4.8参数达2.5万亿，训练成本极高。更关键的是，xAI正让较弱模型参与编写训练更强模型的代码，形成递归自我改进循环，但AI生成代码的正确性验证仍是巨大风险。
CUDA PTX的ldmatrix指令用于从共享内存加载矩阵到寄存器，支持多种矩阵布局。CuTe封装了该指令，简化了使用过程，用户可通过不同参数灵活加载转置或非转置矩阵，以满足MMA操作需求。
本文介绍了如何使用CUDA驱动API动态加载PTX、CUBIN和FATBIN文件，并通过示例代码展示CUDA内核的编译与运行过程，强调了`extern "C"`的重要性，并提供了相关的Python脚本。
DeepSeek通过优化NVIDIA GPU，利用PTX编程语言显著提升AI模型训练速度，将成本降低至20亿美元，促进AI创新的公平竞争。
DeepSeek-V3论文引发关注，因其绕过CUDA，利用PTX语言提升硬件效率达10倍。分析指出其重建架构挑战英伟达技术壁垒，尽管PTX复杂，DeepSeek仍与AMD等合作，展示优化能力，可能推动AI自我改进。
本文介绍了fatbin文件的结构和生成方式，它是一个包含多个entry的容器，每个entry包含一个头部和一个ELF或PTX的payload。fatbin头部记录了一些信息，方便CUDA Runtime快速定位到要使用的ELF或PTX。此外，fatbin还采用了简单的压缩算法来减小文件大小。
NVIDIA CUDA的NVCC编译过程之前已经介绍过了，编译ptx后，会生成cubin文件。 cubin文件是包含了CUDA执行代码节的ELF格式文件。类似于我们常见运行文件。而官方提供了两个工具来反编译cubin文件到sass文件（类似常见的汇编），官方使用文档。 nvdisasm n
完成下面两步后，将自动完成登录并继续当前操作。
