2026年7月，数学与AI论坛在云南玉溪举行，专家探讨AI在数学中的能力边界。AI大模型数学能力跃升，可获奥数满分，但存在可解释性“黑箱”问题。周向宇院士认为数学家不会被取代，应专注创造性工作，AI作助手。北电数智推动算力建设及医疗、制造领域落地。

Furiosa提出了一种新型AI芯片设计，采用Tensor Contraction Processor（TCP），放弃传统的矩阵乘法，直接执行张量收缩。这一设计旨在简化计算过程，减少数据转换和内存管理的开销，提高AI计算效率，标志着AI芯片设计的范式转变。

文章探讨了AI基础设施中的向量、神经网络和深度学习的核心概念。向量将词语转化为数字以计算相似度，点积运算用于衡量向量对齐程度。神经网络通过多层结构重塑输入，激活函数影响学习效果，损失函数定义错误，训练通过梯度下降优化模型参数。文章指出当前模型在处理上下文时的局限性，强调Transformer架构的重要性。

在《v5的诞生》第12集中，开发者发现数据可视化图表存在错误，技能数据被错误标记。经过调查，问题源于数据继承关系。团队决定优化仪表板，增加切片功能，而不编写新代码。同时，他们决定不构建新的深度观察室，因为基础设施即将更新。最终，通过删除一个云连接的功能，增强了系统的安全性和可靠性。

2025年，Google DeepMind的AlphaEvolve以48次标量乘法打破了1969年Strassen的矩阵乘法纪录。它不仅优化了矩阵运算，还解决了67个数学问题，展示了AI在数学领域的原创性和自我改进能力，预示着AI驱动的科学新时代的到来。

本文介绍了在NVIDIA Blackwell上优化矩阵乘法内核的过程，重点在于集群启动控制（CLC）优化。通过使用持久内核和调度器，消除了共享内存和障碍初始化的开销，性能提升15%，达到1772 TFLOPs，超越当前的SOTA。此外，探讨了通过块交换提高L2缓存命中率，从而实现更高效的调度和性能。

本文探讨了在NVIDIA Blackwell GPU上通过2SM技术和流水线优化矩阵乘法性能，达到360.2 TFLOPs，接近85%的最先进水平。采用多播和2xSM MMA优化共享内存，减少数据冗余，并通过流水线技术提升计算与内存传输的重叠，最终实现1429 TFLOPs，达到81%的目标。

本文探讨了Nvidia Blackwell GPU架构下的矩阵乘法优化，采用共享内存和循环分块技术，性能提升超过50倍。通过利用Tensor Memory和新指令集tcgen05.mma，进一步提高计算效率。尽管取得显著进展，但仍未达到cuBLAS的性能水平，后续将继续优化。

本系列博客将展示如何在Nvidia Blackwell GPU上编写高性能矩阵乘法内核，力求达到或超越cuBLAS的性能。第一部分介绍矩阵乘法的重要性及其在大型语言模型中的应用，并用Mojo语言实现简单的矩阵乘法。后续部分将逐步优化内核性能，利用Blackwell的新硬件指令。

本文介绍了在Triton中实现矩阵乘法的方法，并进行了L2缓存优化。通过矩阵分块和利用快速的SRAM，减少对慢速DRAM的访问，从而显著提高性能。同时，优化L2缓存的使用，确保相邻线程共享数据，进一步提升计算效率。文中还提供了完整的Triton代码示例，以帮助读者理解实现过程。

我开发了一个简单的计算器，支持乘法和平方根等功能。期待未来的新项目。