NVIDIA的Tensor Core专为加速矩阵运算而设计，TN布局在GEMM问题中表现最佳，优化了内存访问和缓存利用率，从而显著提升性能。大多数NVIDIA GPU架构仅支持TN布局的MMA指令。

NVIDIA GPU的峰值AI性能通常以TFLOPS或TOPS表示，但使用HPC软件重现这些性能并不总是有效。通过自定义微基准测试直接调用Tensor Core MMA指令，可以更可靠地测量性能。本文介绍了如何使用CUTLASS和CuTe测量NVIDIA Tensor Core MMA指令的峰值性能，并提供选择合适指令的参考。

MMA（矩阵乘法和累加）是GEMM的核心操作。CuTe提供API以配置MMA原子和瓦片，支持更大规模的问题解决。本文讨论了CuTe的瓦片MMA配置、布局及API示例，展示了如何优化性能，通过静态共享内存和线程划分来实现。

近年来，文本到图像（T2I）模型取得了显著进展并广泛应用。然而，这一进展也带来了滥用的潜在风险。研究人员引入了MMA-Diffusion框架，该框架能够绕过当前的防御措施，揭示现有防御机制的弱点。该框架利用文本和视觉模式来绕过提示过滤器和事后安全检查器等保护措施。

MAMBA是一种基于深度学习的平台，可以处理多种成像模态的3D组织图像并预测患者结果。该框架使用3D基于块的方法，在预测方面表现出比传统的基于单层切片的预测方法更好的性能。MAMBA为临床决策支持提供了一种通用有效的3D弱监督学习框架，可以帮助揭示新的3D形态生物标志物以进行预后和治疗反应的研究。