快速对抗训练中防止灾难性过拟合的双层优化视角
原文中文,约500字,阅读约需1分钟。发表于: 。我们提出了一种名为 FGSM-PCO 的 FAT 方法,通过一个自适应机制将历史 AEs 与训练过程相结合,生成当前阶段的 AEs,并采用针对训练框架的损失函数,以减轻灾难性过拟合问题,并帮助过拟合模型的有效训练。通过对三个模型和三个数据集的评估,验证了我们算法的有效性,与其他 FAT 算法的比较实证研究表明,我们提出的方法有效地解决了现有算法中未解决的过拟合问题。
该研究使用快速对抗训练技术(FAT)提高模型鲁棒性和减少训练成本。作者研究了10种方法,并提出了一种基于FGSM的快速对抗训练方法,同时使用Lipschitz正则化和自动权重平均化。实验结果显示该方法在鲁棒性方面表现优越。