/cdn.vox-cdn.com/uploads/chorus_asset/file/25343060/NVIDIA_Blackwell_Architecture_Image.jpg)
英伟达发布Blackwell B200 GPU，被称为“全球最强AI芯片”
内容提要
英伟达推出了Blackwell B200 GPU和GB200超级芯片，提供了更高的性能和能效。B200 GPU提供20 petaflops的FP4算力，而GB200则将两个GPU与一个Grace CPU结合，性能提升30倍。英伟达的目标是拥有更大设计的公司，如GB200 NVL72，提供720 petaflops的AI训练性能。亚马逊、谷歌、微软和甲骨文计划在其云服务中提供NVL72机架。英伟达的系统可以扩展到数万个GB200超级芯片。
延伸解读
性能提升的量化对比
英伟达官方数据显示，GB200在LLM推理任务上性能可达H100的30倍，同时成本和能耗降低至多25倍。在GPT-3 1750亿参数基准测试中，GB200性能为H100的7倍，训练速度提升4倍。训练1.8万亿参数模型，过去需8000个Hopper GPU和15兆瓦功耗，现在仅需2000个Blackwell GPU和4兆瓦。这些数据为评估实际收益提供了参考。
大规模互联的技术突破
新一代NVLink交换机支持576个GPU互联，双向带宽达1.8TB/s，并内置50亿晶体管和3.6 petaflops FP8算力。此前16 GPU集群中60%时间用于通信，仅40%用于计算，新交换机有望大幅减少通信开销。GB200 NVL72机架集成36个CPU和72个GPU，提供720 petaflops训练性能或1.4 exaflops推理性能，内部有近两英里线缆和5000根独立线缆。
云服务部署与模型支持
亚马逊、谷歌、微软和甲骨文计划在其云服务中提供NVL72机架，但具体采购数量未明。每个NVL72机架可支持27万亿参数模型，远超传闻中GPT-4的约1.7万亿参数。DGX Superpod将8个系统合一，提供288个CPU、576个GPU、240TB内存和11.5 exaflops FP4算力。系统可扩展至数万个GB200超级芯片，通过800Gbps网络连接。
Q&A
Blackwell B200 GPU的算力是多少？
Blackwell B200 GPU提供20 petaflops的FP4算力。
GB200超级芯片的主要特点是什么？
GB200结合两个B200 GPU和一个Grace CPU，性能提升30倍，并且能效更高。
英伟达的GB200 NVL72机架能支持多大的AI训练性能？
GB200 NVL72机架提供720 petaflops的AI训练性能。
哪些公司计划在云服务中提供NVL72机架？
亚马逊、谷歌、微软和甲骨文计划在其云服务中提供NVL72机架。
GB200的第二代变压器引擎有什么改进？
第二代变压器引擎通过使用四位神经元提高计算和带宽，增强了性能。
英伟达的DGX Superpod有什么特点？
DGX Superpod结合多个系统，提供288个CPU和576个GPU的强大计算能力。
