量子位
·
超越英伟达B200！AMD最强AI芯：1.6倍大内存、大模型推理快30%，奥特曼都来站台
内容提要
AMD发布了MI350X和MI355X两款AI芯片，性能超越英伟达B200，推理速度快30%。新芯片采用3nm工艺，内存容量是B200的1.6倍，功耗更低。预计明年推出MI400系列，速度提升可达10倍。
关键要点
-
AMD发布了MI350X和MI355X两款AI芯片，性能超越英伟达B200，推理速度快30%。
-
新芯片采用3nm工艺，内存容量是B200的1.6倍，功耗更低。
-
MI350系列的算力提升了4倍，推理速度快了35倍。
-
MI350X和MI355X在核心设计上相同，前者采用风冷，后者采用液冷。
-
MI350系列在FP64精度上的算力是英伟达的2倍，低精度格式性能相当或略胜一筹。
-
MI350系列已于本月初批量出货，云服务商正在进行安装。
-
AMD发布了全新的ROCm 7软件栈，带来了3.5倍的推理性能提升和3倍的训练性能提升。
-
AMD预告明年将推出MI400系列，速度预计比MI300系列快10倍，配备432GB的HBM4内存。
-
MI400系列由AMD和OpenAI联合研发，适合推理和训练需求。
-
AMD计划到2027年推出MI500系列GPU和Verono CPU，进一步突破性能和效率。
延伸解读
AMD与英伟达的竞争格局
AMD的MI350系列芯片在性能上超越了英伟达的B200，尤其是在推理速度和内存容量方面的优势，标志着AMD在AI芯片市场的强劲反击。这种竞争将推动整个行业的技术进步，促使英伟达加快创新步伐，可能会引发价格和性能的进一步竞争。
新技术的应用前景
MI350系列采用3nm工艺和HBM3E内存，具备更高的性能和更低的功耗，适合大规模AI模型的训练和推理。随着云服务商的安装和应用，预计将推动AI技术在各行业的广泛应用，尤其是在需要高计算能力的领域，如自然语言处理和图像识别。
ROCm 7软件栈的影响
AMD新发布的ROCm 7软件栈显著提升了推理和训练性能，支持多种开源框架，降低了开发门槛。这将吸引更多开发者和企业使用AMD的硬件，进一步增强其在AI领域的生态系统，可能会改变开发者的选择偏好。
延伸问答
AMD的MI350X和MI355X芯片有哪些主要特点？
MI350X和MI355X芯片采用3nm工艺，内存容量是英伟达B200的1.6倍，推理速度快30%，功耗更低。
MI350系列与英伟达B200相比有什么优势？
MI350系列在FP64精度上的算力是英伟达的2倍，推理速度相当或更快，并且功耗更低。
AMD的ROCm 7软件栈有什么新功能？
ROCm 7带来了3.5倍的推理性能提升和3倍的训练性能提升，并支持分布式推理。
MI400系列芯片的预期性能如何？
MI400系列预计速度比MI300系列快10倍，配备432GB的HBM4内存和19.6TB/s的内存带宽。
MI350系列的算力提升了多少？
MI350系列的算力提升了4倍，推理速度快了35倍。
AMD计划在未来推出哪些新产品？
AMD计划到2027年推出MI500系列GPU和Verono CPU，进一步突破性能和效率。
