NVIDIA的Blackwell架构将在2024年推出，解决GPU内存限制问题。通过双芯片设计和统一的CPU-GPU内存，Blackwell显著提升了内存容量和带宽，使大型模型如Llama 3 70B能够在单个超级芯片上运行，简化了部署并减少了多GPU通信的复杂性。这一架构使AI工程师能更专注于模型开发。

在NVIDIA GTC展会上，我们展示了基于MAX框架的FLUX图像生成和Mojo编程的CUTLASS内核移植。DeepSeek V3在云端运行，提供实时指标，欢迎到3004号展位交流。

微软和Oracle等云服务商正在大规模部署NVIDIA GB300 NVL72系统，以支持低延迟和长上下文的AI应用。NVIDIA Blackwell平台的广泛应用降低了每个token的成本，GB300 NVL72在低延迟和长上下文场景中表现优异，推动了AI编程助手的快速发展。

Baseten、DeepInfra、Fireworks AI和Together AI通过NVIDIA Blackwell平台优化推理堆栈，显著降低各行业的每个token成本。MIT研究表明，基础设施和算法效率每年可将推理成本降低10倍。医疗、游戏和客户服务等领域的公司利用开源模型和NVIDIA Blackwell实现了成本节约和响应时间提升。

vLLM团队在NVIDIA GB200平台上优化性能，实现26.2K预填TPGS和10.1K解码TPGS，较H200提升3-5倍。通过低精度操作、内核融合和权重卸载等技术，显著提升计算效率和带宽利用率。

vLLM与NVIDIA合作，在Blackwell GPU上优化gpt-oss-120b模型，提升性能。通过FlashInfer集成、内核融合和运行时改进，实现最大吞吐量提高38%和最佳交互性提升13%。这些优化增强了模型在高并发场景下的表现。

亚马逊正式发布 EC2 G7e 实例，采用 NVIDIA RTX PRO 6000 Blackwell GPU，显著提升生成式人工智能和图形工作负载的性能。与 G6e 实例相比，推理性能提升高达 2.3 倍，支持更大模型和多 GPU 任务，网络带宽提升四倍。G7e 实例现已在美国东部地区上线，适用于机器学习工作负载。

NVIDIA RTX PRO 5000 72GB显卡已上市，具备强大的AI能力，适合开发者和设计师。其72GB内存支持复杂的AI工作流，显著提升图像和文本生成性能，优化创意与工程设计流程。

Super Micro Computer推出全新4U与2U液冷NVIDIA HGX B300系统，提升GPU密度与能源效率，适用于超大规模数据中心与AI工厂，最大化空间利用并降低电力消耗。

英伟达开发了一种人工智能GPU位置验证技术，通过通信延迟识别GPU所在国家，以防止芯片走私。该技术以可选软件形式提供，监测数据中心健康状况，并强调无法远程禁用GPU。首个应用于此技术的是最新的Blackwell芯片，旨在满足美国政府的要求。

当前最先进的开源模型如Kimi K2 Thinking和Mistral Large 3采用专家混合架构（MoE），在NVIDIA GB200 NVL72上运行速度提升10倍。MoE模型通过激活特定“专家”提高效率，降低计算成本，已成为前沿模型的标准。NVIDIA的协同设计解决了MoE模型的扩展瓶颈，显著提升了性能和能效。

在2025年秋季GTC大会上，英伟达的黄仁勋展示了Blackwell平台的强大性能，预计将出货600万处理器，速度提升九倍，降低AI生成成本。同时，英伟达与诺基亚合作开发6G技术，推动AI与通信的深度融合，强调AI是未来经济增长的核心动力。

AI工厂将用于训练大规模生物医学模型，支持药物发现与开发。Lilly TuneLab平台利用NVIDIA FLARE的联邦学习基础设施，确保数据隐私，随着参与公司增多，模型将不断完善，推动个性化药物的发展。

美国制造AI技术的庆祝活动展示了创新和供应链的加强。NVIDIA与TSMC合作，生产首个Blackwell晶圆，标志着量产的里程碑，推动美国在AI领域的领导地位，以满足日益增长的需求。

NVIDIA Blackwell在InferenceMAX基准测试中表现优异，提供最高性能和最佳效率。其GB200 NVL72系统投资500万美元，带来7500万美元收益，回报率达15倍。通过软件优化，成本降至每百万个令牌两美分，效率显著提升。Blackwell架构结合硬件与软件设计，推动AI推理经济发展。

与NVIDIA合作，优化Blackwell GPU架构以提升大语言模型的推理性能。通过重构和开发新内核，vLLM在Blackwell上实现了最高4倍的吞吐量提升，显著提高了推理效率。新基准测试显示，Blackwell在多种交互场景下表现优异，持续推动推理性能提升。

Super X AI Technology Limited推出SuperX XN9160-B300 AI服务器，搭载NVIDIA Blackwell GPU，专为大规模AI训练和推理设计，具备高性能和扩展性，适合多种高强度应用。

本文介绍了在NVIDIA Blackwell上优化矩阵乘法内核的过程，重点在于集群启动控制（CLC）优化。通过使用持久内核和调度器，消除了共享内存和障碍初始化的开销，性能提升15%，达到1772 TFLOPs，超越当前的SOTA。此外，探讨了通过块交换提高L2缓存命中率，从而实现更高效的调度和性能。

Blackwell是为AI工厂设计的系统架构核心，支持数百亿参数的AI模型，预计下代模型将超过万亿参数。为满足需求，需要扩展数据中心，利用数千台计算机共享工作，但构建更大计算机可实现更高性能和能效。

Supermicro宣布全面上市NVIDIA Blackwell Ultra解决方案，包括即插即用的NVIDIA HGX B300系统和GB300 NVL72机架，支持多种人工智能应用，具备先进冷却设计，提升GPU功耗利用率，确保高性能与效率。