NVIDIA RTX PRO 5000 72GB显卡已上市，具备强大的AI能力，适合开发者和设计师。其72GB内存支持复杂的AI工作流，显著提升图像和文本生成性能，优化创意与工程设计流程。

Super Micro Computer推出全新4U与2U液冷NVIDIA HGX B300系统，提升GPU密度与能源效率，适用于超大规模数据中心与AI工厂，最大化空间利用并降低电力消耗。

当前最先进的开源模型如Kimi K2 Thinking和Mistral Large 3采用专家混合架构（MoE），在NVIDIA GB200 NVL72上运行速度提升10倍。MoE模型通过激活特定“专家”提高效率，降低计算成本，已成为前沿模型的标准。NVIDIA的协同设计解决了MoE模型的扩展瓶颈，显著提升了性能和能效。

在2025年秋季GTC大会上，英伟达的黄仁勋展示了Blackwell平台的强大性能，预计将出货600万处理器，速度提升九倍，降低AI生成成本。同时，英伟达与诺基亚合作开发6G技术，推动AI与通信的深度融合，强调AI是未来经济增长的核心动力。

AI工厂将用于训练大规模生物医学模型，支持药物发现与开发。Lilly TuneLab平台利用NVIDIA FLARE的联邦学习基础设施，确保数据隐私，随着参与公司增多，模型将不断完善，推动个性化药物的发展。

美国制造AI技术的庆祝活动展示了创新和供应链的加强。NVIDIA与TSMC合作，生产首个Blackwell晶圆，标志着量产的里程碑，推动美国在AI领域的领导地位，以满足日益增长的需求。

NVIDIA Blackwell在InferenceMAX基准测试中表现优异，提供最高性能和最佳效率。其GB200 NVL72系统投资500万美元，带来7500万美元收益，回报率达15倍。通过软件优化，成本降至每百万个令牌两美分，效率显著提升。Blackwell架构结合硬件与软件设计，推动AI推理经济发展。

与NVIDIA合作，优化Blackwell GPU架构以提升大语言模型的推理性能。通过重构和开发新内核，vLLM在Blackwell上实现了最高4倍的吞吐量提升，显著提高了推理效率。新基准测试显示，Blackwell在多种交互场景下表现优异，持续推动推理性能提升。

Super X AI Technology Limited推出SuperX XN9160-B300 AI服务器，搭载NVIDIA Blackwell GPU，专为大规模AI训练和推理设计，具备高性能和扩展性，适合多种高强度应用。

本文介绍了在NVIDIA Blackwell上优化矩阵乘法内核的过程，重点在于集群启动控制（CLC）优化。通过使用持久内核和调度器，消除了共享内存和障碍初始化的开销，性能提升15%，达到1772 TFLOPs，超越当前的SOTA。此外，探讨了通过块交换提高L2缓存命中率，从而实现更高效的调度和性能。

Blackwell是为AI工厂设计的系统架构核心，支持数百亿参数的AI模型，预计下代模型将超过万亿参数。为满足需求，需要扩展数据中心，利用数千台计算机共享工作，但构建更大计算机可实现更高性能和能效。

Supermicro宣布全面上市NVIDIA Blackwell Ultra解决方案，包括即插即用的NVIDIA HGX B300系统和GB300 NVL72机架，支持多种人工智能应用，具备先进冷却设计，提升GPU功耗利用率，确保高性能与效率。

本文探讨了在NVIDIA Blackwell GPU上通过2SM技术和流水线优化矩阵乘法性能，达到360.2 TFLOPs，接近85%的最先进水平。采用多播和2xSM MMA优化共享内存，减少数据冗余，并通过流水线技术提升计算与内存传输的重叠，最终实现1429 TFLOPs，达到81%的目标。

NVIDIA GB300 NVL72系统在推理基准测试中表现优异，提升了AI工厂的吞吐量并降低了总拥有成本。新架构Blackwell Ultra提供更强的计算能力和内存，优化大型语言模型推理，显著提升性能。

本文探讨了Nvidia Blackwell GPU架构下的矩阵乘法优化，采用共享内存和循环分块技术，性能提升超过50倍。通过利用Tensor Memory和新指令集tcgen05.mma，进一步提高计算效率。尽管取得显著进展，但仍未达到cuBLAS的性能水平，后续将继续优化。

NVIDIA Blackwell RTX将于9月10日上线云端，推出17款新游戏，包括《Hell Is Us》和《Hollow Knight: Silksong》，并支持更高分辨率和帧率，提升云游戏体验。

本系列博客将展示如何在Nvidia Blackwell GPU上编写高性能矩阵乘法内核，力求达到或超越cuBLAS的性能。第一部分介绍矩阵乘法的重要性及其在大型语言模型中的应用，并用Mojo语言实现简单的矩阵乘法。后续部分将逐步优化内核性能，利用Blackwell的新硬件指令。

Tinygrad 0.11 是最新的深度学习框架，支持 AMD 和 NVIDIA 硬件加速器，新增对 AMD Instinct MI350 和 NVIDIA Blackwell GPU 的支持，合并 ONNX 支持，并实现多主机功能。