AMD发布基于台积电2纳米工艺的EPYC ZEN 6处理器和MI455X加速卡,ZEN 6的IPC预计提升15%至20%,MI455X则专为AI优化。Helios AI超算平台整合CPU与GPU,支持ROCm开放软件栈,旨在提高AI应用开发效率。
软通智算科技完成超亿级A轮融资,参与全国算力网建设,覆盖多个城市。其服务平台支持多种加速卡,已适配国产芯片,并中标粤港澳大湾区项目,推动人工智能技术创新。
埃隆马斯克透露xAI的Grok 3将在年底推出,使用10万张NVIDIA H100加速卡进行训练。Grok 2已取得巨大进步,已集成到X/Twitter中。
英伟达推出了基于Hopper架构的NVIDIA HGX H200 GPU,采用HBM3e内存,带宽4.8TB每秒。与H100相比,HGX H200在Llama 2上的推理速度提高了一倍。适用于各种数据中心,并可通过AWS、Google Cloud、Microsoft Azure和Oracle Cloud进行部署。NVIDIA GH200 Grace Hopper超级芯片可与HGX H200 GPU结合使用,用于超算和AI计算。
CodeWeave是一家云GPU租用提供商,最近通过抵押持有的H100加速卡获得23亿美元债务融资,计划购买更多加速卡。与英伟达有独家合作关系,估值超过20亿美元。Inflection AI获得13.5亿美元支持,一半用于购买英伟达的H100加速卡。英伟达在提供资金方面非常成功。
在人工智能热潮下,英伟达股价上涨,因为人工智能模型训练依赖于英伟达的加速卡。然而,初创公司MosaicML的评测显示,AMD米兰芯片的性能并不差,其MI250加速卡也足够使用。MosaicML还提到,加速卡制造商的主要弱点在于软件优化,而AMD在这方面不断改进,预计新推出的HPCGPU会提供更好的性能。这份评测报告支持了AMD在AI行业的战略,但英伟达拒绝评价,可能因为这对他们来说不是好消息。
英伟达凭借高性能GPU赚得盆满钵满,市值突破1万亿美元,成为全球第六家万亿美元公司。英伟达是唯一一家芯片公司,市值几乎是台积电的两倍、英特尔的8倍、AMD的5倍。英伟达GPU成为各大AI公司争相抢购的东西。现在英伟达正在增加A100/H100加速卡的产能。
早前蓝点网提到英伟达推出专用加速卡NVIDIA H100,该加速卡是前代加速卡A100性能的3倍价格也是3倍。 […]
完成下面两步后,将自动完成登录并继续当前操作。