RESQUE:任务和分布转变的估算器以实现可持续模型重用

📝

内容提要

本研究解决了深度学习模型重用中的关键挑战,即如何有效估算在任务或分布发生变化时模型的再训练成本。我们提出了一种新颖的度量工具RESQUE,该工具能为资源需求提供简洁的量化指标。研究结果表明,RESQUE与再训练过程中的多项重要指标(如训练周期、梯度范数及碳排放)具有强相关性,从而为用户在模型重用时做出可持续决策提供支持。

➡️

继续阅读