埃隆马斯克透露xAI的Grok 3将在年底推出，使用10万张NVIDIA H100加速卡进行训练。Grok 2已取得巨大进步，已集成到X/Twitter中。

英伟达推出了基于Hopper架构的NVIDIA HGX H200 GPU，采用HBM3e内存，带宽4.8TB每秒。与H100相比，HGX H200在Llama 2上的推理速度提高了一倍。适用于各种数据中心，并可通过AWS、Google Cloud、Microsoft Azure和Oracle Cloud进行部署。NVIDIA GH200 Grace Hopper超级芯片可与HGX H200 GPU结合使用，用于超算和AI计算。

CodeWeave是一家云GPU租用提供商，最近通过抵押持有的H100加速卡获得23亿美元债务融资，计划购买更多加速卡。与英伟达有独家合作关系，估值超过20亿美元。Inflection AI获得13.5亿美元支持，一半用于购买英伟达的H100加速卡。英伟达在提供资金方面非常成功。

在人工智能热潮下，英伟达股价上涨，因为人工智能模型训练依赖于英伟达的加速卡。然而，初创公司MosaicML的评测显示，AMD米兰芯片的性能并不差，其MI250加速卡也足够使用。MosaicML还提到，加速卡制造商的主要弱点在于软件优化，而AMD在这方面不断改进，预计新推出的HPCGPU会提供更好的性能。这份评测报告支持了AMD在AI行业的战略，但英伟达拒绝评价，可能因为这对他们来说不是好消息。

英伟达凭借高性能GPU赚得盆满钵满，市值突破1万亿美元，成为全球第六家万亿美元公司。英伟达是唯一一家芯片公司，市值几乎是台积电的两倍、英特尔的8倍、AMD的5倍。英伟达GPU成为各大AI公司争相抢购的东西。现在英伟达正在增加A100/H100加速卡的产能。

早前蓝点网提到英伟达推出专用加速卡NVIDIA H100，该加速卡是前代加速卡A100性能的3倍价格也是3倍。 […]