本文提出了一种增强本地学习的方法AugLocal,通过选择部分网络层来增强协同作用,解决了本地学习与BP方法之间的精度差距,并减少了约40%的GPU内存使用。该方法在资源受限的平台上训练深度神经网络具有潜力。此外,提出的指数移动平均归一化(EMAN)技术提高了教师模型的泛化能力,适用于多种网络结构和数据集。
完成下面两步后,将自动完成登录并继续当前操作。