硬件无关评估的能耗规范化

本文探讨了减少NLP应用程序能源消耗的技术，包括衡量能源使用的技巧和调节硬件及数据中心设置。

通过功率限制，基于变压器的语言模型训练的能源使用可减少15%。

准确测量AI工作量的功耗需求对于提高能源效率至关重要。

提出了一个新的开源工具，通过复合分数衡量神经网络推断过程中的精确度和功耗权衡。

研究揭示了边缘设备中深度学习的能量消耗特征，并设计了内核级能量预测器。

调查了大规模神经网络训练的实际能耗，提出了一个能量模型，挑战了传统能效提升假设。

强调软件在机器学习能耗优化中的关键作用，主张跨层次方法来优化能源利用。

提供了可持续机器学习操作的实用指南，强调降低能耗和碳足迹的同时保持性能。

系统文献综述和实验比较提供了评估工具和方法的全面指导，推动行业可持续发展。

分析多种神经网络架构，揭示能耗与浮点操作次数、参数数量及GPU/内存利用率之间的复杂关系。