本文介绍了一种新的稀疏学习方法：自适应正则化训练（ART），通过逐步增加权重正则化将稠密网络压缩为稀疏网络，并通过最高权重的方式压缩预训练模型的知识。该方法在CIFAR和TinyImageNet上比其他稀疏化方法具有显著的性能提升，并对高量级权重中编码的模式提供了新的认识。