训练的力量:神经网络不同设置对能源需求的影响
原文中文,约300字,阅读约需1分钟。发表于: 。本研究旨在探究机器学习训练模式和学习范式的变化对应的能源消耗的影响,通过评估不同超参数初始化的多种设置在两种硬件配置上的实验结果,以及在基准结果之上进行的预训练和多任务训练实验证实它们对可持续机器学习的潜力。
通过计算发现大而稀疏的深度神经网络比大而密集的深度神经网络使用更少的能量,并具有可接受的准确性。明确计算能源消耗和碳足迹可以帮助减少机器学习的碳足迹。
本研究旨在探究机器学习训练模式和学习范式的变化对应的能源消耗的影响,通过评估不同超参数初始化的多种设置在两种硬件配置上的实验结果,以及在基准结果之上进行的预训练和多任务训练实验证实它们对可持续机器学习的潜力。
通过计算发现大而稀疏的深度神经网络比大而密集的深度神经网络使用更少的能量,并具有可接受的准确性。明确计算能源消耗和碳足迹可以帮助减少机器学习的碳足迹。