攻击和重置用于遗忘:通过参数重新初始化对机器遗忘的敌对噪声开发
原文中文,约400字,阅读约需1分钟。发表于: 。通过攻击和屏蔽网络参数中的特定信息,我们提出了一种名为 ARU 的新方法,该方法使用精心设计的对抗性噪声生成参数屏蔽,有效地重置某些参数,使其无法再进行学习。通过利用对抗性噪声来制作屏蔽,我们在两个面部机器遗忘基准数据集 MUFAC 和 MUCAC 上取得了超越当前最先进结果的表现。我们的研究在通过参数重新初始化实现使数据无法被深度学习模型利用方面取得了重大进展。
联邦学习是一种隐私中心解决方案,可以在不共享数据的情况下进行协同模型训练。研究引入了Adversarial Robustness Unhardening(ARU)方法,通过破坏模型的健壮性来增强对抗性训练。实证实验评估了ARU对抗性训练和现有防御策略的影响,提供了提升ARU的策略,并突显了现有防御策略的局限性。