内容提要
谷歌为应对内存供应紧张和成本压力,开始拆解退役服务器,回收仍可用的DDR4内存并重新投入数据中心。此举旨在缓解AI服务器对高性能内存的需求,因内存成本占AI硬件物料成本75%。谷歌还设计适配器,将DDR4内存连接至AI服务器辅助工作,以节省采购成本。
延伸解读
回收内存的局限与动机
谷歌拆解退役服务器主要回收内存,而非其他部件。这并非单纯的环保举措,而是应对内存供应紧张和成本压力的务实选择。DDR4内存虽非最新,但用于辅助AI服务器或传统工作负载,可减少对DDR5的需求,从而节省采购成本。
AI成本结构变化
文章指出,AI基础设施的瓶颈已从计算转向内存,高性能内存成本占AI服务器硬件物料成本的75%。这解释了为何谷歌会重视内存回收,即便回收的是DDR4,也能在特定场景下缓解成本压力。
硬件寿命延长趋势
谷歌将服务器硬件服役时间从4年延长至5年,现在又回收内存再利用,反映出云计算行业在成本压力下对硬件生命周期的管理更加精细化。这种趋势可能影响硬件采购和更新策略,值得关注。
Q&A
谷歌为什么要拆解退役服务器并回收内存?
谷歌拆解退役服务器并回收内存,主要是为了应对内存供应紧张和成本压力。由于AI服务器对高性能内存需求巨大,内存成本占AI硬件物料成本的75%,而直接从退役服务器上拆卸可用的DDR4内存,可以缓解采购压力并节省成本。
谷歌回收的DDR4内存是如何被重新利用的?
谷歌回收的DDR4内存并非用于替代GPU或TPU所需的HBM高带宽内存,而是用于支持传统系统内存的服务器组件和工作负载,以减少对DDR5内存的需求。此外,谷歌还设计了硬件适配器,将DDR4内存连接到AI服务器中辅助工作。
谷歌回收内存的主要零部件是什么?
谷歌回收的主要零部件是内存,具体为DDR4内存。其他如固态硬盘、处理器、电源等零部件仍然退役,不进行回收。
为什么内存成为AI基础设施的主要瓶颈?
随着多模态模型、混合专家架构、智能体以及更长的上下文的发展,容量、带宽、延迟和功耗成本都成为限制因素,而高性能内存是最大的瓶颈,其成本占AI服务器硬件物料成本的75%。
谷歌回收内存的做法是否意味着服务器硬件使用寿命延长?
是的,谷歌此前已将服务器硬件服役时间从4年延长到5年,现在更进一步,通过拆解退役服务器回收可用内存,实现零部件的再利用,这体现了对硬件生命周期的延长和资源循环利用。
谷歌回收内存的做法是否环保?
虽然谷歌回收内存的做法听起来环保,但尼基尔承认,回收的主要目的是应对内存供应紧张和成本压力,并非主要出于环保考虑。不过,回收利用零部件客观上减少了电子废弃物,具有一定的环保效益。