通过自我知识指导提高快速对抗训练
原文中文,约500字,阅读约需1分钟。发表于: 。本研究针对快速对抗训练(FAT)中的不平衡优化问题展开探讨,识别出不同类别的表现差异对训练的影响。通过引入自我知识指导的正则化和标签松弛方法,我们提出了一种自我知识指导的快速对抗训练(SKG-FAT),有效提升了对抗鲁棒性,同时保持了训练效率和竞争性的准确性。
研究通过快速对抗训练(FAT)提高模型鲁棒性,降低训练成本,但存在灾难性过拟合问题。评估了多种FAT方法,提出Lipschitz正则化和自动权重平均化来增强鲁棒性,并提出了在四个基准数据库上表现优异的FGSM-LAW方法。