内容提要
生成式AI引发芯片竞争加剧。英伟达GPU供不应求,H100热销,市值破万亿。微软、Meta、谷歌、亚马逊等客户为减少依赖,纷纷自研AI芯片:Meta将推出Artemis,微软发布Maia 100,谷歌升级TPU,AMD推出MI300X。芯片成为AI霸主之争的新战场。
延伸解读
自研芯片的动机与局限
微软、Meta、谷歌等英伟达大客户纷纷自研AI芯片,主要是为了减少对英伟达GPU的依赖,并应对其供应紧张和成本高昂的问题。然而,这些自研芯片目前多聚焦于推理任务,例如Meta的Artemis和MTIA,而训练大模型仍高度依赖英伟达H100等GPU。因此,自研芯片短期内难以完全替代英伟达,更多是作为补充,以优化特定工作负载的效率和成本。
竞争格局:英伟达的护城河与挑战者
尽管AMD推出MI300X、英特尔发布Core Ultra,谷歌升级TPU,但英伟达凭借H100的强劲需求和CUDA生态,市值突破万亿美元,形成近乎垄断的地位。挑战者如AMD声称MI300X在推理侧表现优于H100,且营收爬坡迅速,但整体生态和训练能力仍是英伟达的强项。芯片竞赛已从硬件扩展到软件生态和供应链,英伟达的领先地位短期内难以撼动。
供应链与成本压力
英伟达H100供不应求,甚至有人在eBay上以超过4万美元的价格转售,凸显了AI芯片的稀缺性。这种供需失衡促使客户寻求替代方案,包括自研芯片和采购AMD等产品。同时,OpenAI CEO Sam Altman寻求巨额资金建设全球芯片工厂网络,以缓解芯片制造瓶颈。芯片制造的高成本和复杂供应链,将成为AI发展的关键制约因素。
Q&A
为什么英伟达的H100 GPU在AI芯片市场如此抢手?
因为生成式AI的兴起导致对英伟达先进GPU的需求远超供应,H100成为训练和运行生成式AI模型的首选,价格昂贵且供不应求,甚至有人在eBay上以超过4万美元的价格购买。
微软、Meta、谷歌等公司为什么要自研AI芯片?
这些公司是英伟达GPU的主要客户,为了减少对英伟达有限供应的依赖,并希望在不同芯片(包括自研芯片)之间切换尽可能简单,因此纷纷开始研发自己的AI处理器。
Meta计划推出的AI芯片Artemis有什么特点?
Artemis是Meta计划今年推出的新AI芯片,专注于推理(AI的决策部分)而非训练AI模型,将补充Meta已购买的大量英伟达H100芯片。
微软发布的Maia 100芯片有什么用途?
Maia 100是微软自研的AI芯片,可用于训练大语言模型,旨在避免对英伟达的昂贵依赖,并将用于驱动其Azure数据中心。
AMD在AI芯片领域有哪些新产品?
AMD推出了Instinct MI300X加速器和Instinct MI300A APU,用于训练和运行大语言模型。MI300X比前代MI250X内存容量多1.5倍,且更节能。AMD CEO表示MI300是公司历史上收入增长最快的产品。
谷歌在AI芯片方面有什么进展?
谷歌早在2017年就推出了第二代TPU,该芯片既能进行AI推理也能训练模型。