内容提要
超级计算机和数据中心运营商需要衡量单位能源的有用工作量来评估可持续计算进展。目前最广泛使用的衡量标准是功耗效率(PUE),但它无法衡量数据中心的有用输出。现代数据中心的度量标准应该关注能源的有用工作量。
延伸解读
PUE的局限与AI时代的挑战
PUE仅衡量数据中心总能耗与计算基础设施能耗之比,不反映有用输出。在生成式AI时代,工作负载和系统已发生巨变,PUE虽仍有用,但不足以评估能效进展。专家指出,PUE已“完成使命”,需转向更相关的指标。
从瓦特到千瓦时:关注实际能耗
行业常以瓦特描述功率,但瓦特仅表示瞬时输入功率,并非实际能耗或效率。现代数据中心指标应关注能量,以千瓦时或焦耳计量,核心是单位能量完成的有用工作量。输入功率上升不一定意味着能效降低,可能只是完成的工作更多。
定义有用工作:挑战与方向
有用工作的定义主观,不同数据中心需求各异:AI负载可依赖MLPerf,科学计算另有标准,流媒体等商业负载也需相应基准。新基准应衡量加速计算的进展,并随技术演进。例如,Perlmutter超算在科学应用中实现5倍能效提升,PayPal借助加速计算将服务器能耗降低近8倍。
构建新指标:开放论坛与行业协作
专家建议,数据中心运营商需要一套基准,测量当今主流AI工作负载的能耗影响,如“每焦耳令牌数”。这需要企业开放讨论、共享工作负载细节,并达成现实测试流程。最终需一个公开论坛,确保指标准确描述硬件在实际应用中的能耗。
Q&A
为什么现有的功耗效率(PUE)标准在生成式AI时代显得不足?
PUE只测量数据中心的能耗,而不衡量其有用输出,因此在生成式AI时代无法准确反映数据中心的实际效率。
数据中心如何衡量单位能源的有用工作量?
数据中心应使用能效公式,即完成的工作除以使用的能源,来衡量单位能源的有用工作量。
未来的数据中心能效指标应该关注哪些方面?
未来的能效指标应关注能量的有用工作量,并按工作负载细分,以提高成功的可能性。
有哪些新的基准可以用于衡量加速计算的进展?
新的基准应结合并行处理硬件、软件和方法,能够衡量加速计算在实际应用中的能效提升。
专家们对数据中心能效指标的看法是什么?
专家们认为需要新的能效指标,PUE已经不再适用,未来应关注性能指标和AI工作负载的能量影响。
如何推动数据中心的可持续计算进展?
需要一个公开的论坛来进行标准的讨论和共享,以确保能效指标准确描述硬件在实际应用中的能量使用。