选择性推动生产力:提高迁移学习效率的高效数据集修剪

💡 原文中文,约500字,阅读约需1分钟。
📝

内容提要

本文提出了两种新的数据集剪枝方法,可以在不牺牲下游性能的情况下,将源数据类别剪枝达到40%至80%,在预训练阶段实现了显著的2至5倍加速。该方法具有广泛的适用性,可以改进其他计算密集型的传输学习技术。

🏷️

标签

➡️

继续阅读