NVIDIA H100 GPU在首个MLPerf基准测试中为生成式AI设立新标准
原文英文,约900词,阅读约需4分钟。发表于: 。Leading users and industry-standard benchmarks agree: NVIDIA H100 Tensor Core GPUs deliver the best AI performance, especially on the large language models (LLMs) powering generative AI. H100 GPUs...
NVIDIA的H100 Tensor Core GPU在AI性能方面表现出色,特别在生成式AI的大型语言模型上。H100 GPU在最新的MLPerf训练基准测试中刷新了所有八个测试的记录,特别在生成式AI的新MLPerf测试中表现出色。Inflection AI利用H100 GPU构建了其首个个人AI“Pi”,该AI是基于先进的LLM开发的。CoreWeave计划与Inflection AI合作,利用NVIDIA GPU构建全球最大的计算集群之一。H100 GPU在MLPerf基准测试中表现出的性能得到了用户体验的验证,包括大型语言模型、推荐系统、计算机视觉、医学成像和语音识别等方面。CoreWeave使用的低延迟网络使其从云端提供的性能与NVIDIA在本地数据中心运行的AI超级计算机相当。NVIDIA是唯一提交了增强基准测试结果的公司,展示了其在机器学习领域的广泛生态系统支持。