无遗忘的防御：具有各向异性和各向同性伪重放的连续对抗性防御
内容提要
本文提出了一种新型对抗背景攻击的防御框架，利用攻击者隐藏后门模式的能力，学习更强大的模式以抵抗攻击。通过对抗遗忘机制，深度神经网络在多种数据集上表现优异。此外，研究了记忆型持续学习算法的对抗鲁棒性，提出新方法以提高准确性，实验结果显示该方法在多种威胁模型下表现出色。
延伸解读
对抗鲁棒性的遗忘挑战
文章指出，神经网络在学习新任务时容易遗忘先前获得的对抗鲁棒性，导致复杂防御算法获得的鲁棒性被抹去。这一现象在持续学习场景中尤为突出，因为模型需要不断适应新数据，同时保持对旧任务的防御能力。
双梯度投影保持连续鲁棒性
为解决鲁棒性遗忘问题，作者提出双梯度投影方法，将权重更新的梯度正交投影到两个关键子空间：一个用于稳定平滑的样本梯度，另一个用于稳定神经网络的最终输出。实验表明，该方法在四个基准测试中有效保持了连续鲁棒性，对抗强对抗攻击的效果优于现有防御策略与持续学习方法的组合。
记忆型持续学习的对抗鲁棒性改进
文章还研究了记忆型持续学习算法的对抗鲁棒性，提出一种新方法，通过调整数据的逻辑值来减轻敌对样本导致的过去信息遗忘，并通过梯度选择机制克服有限存储数据导致的梯度混淆。实验结果显示，该方法在对抗数据上取得了高达8.13%的更高准确性。
Q&A
什么是对抗背景攻击的防御框架？
对抗背景攻击的防御框架是一种新型防御机制，利用攻击者隐藏后门模式的能力，学习更强大的模式以抵抗攻击。
如何通过对抗遗忘机制提高深度神经网络的性能？
通过对抗遗忘机制，深度神经网络能够在多种数据集上实现状态-of-the-art的性能，保持对抗鲁棒性。
双梯度投影方法的主要功能是什么？
双梯度投影方法通过将权重更新的梯度正交投影到两个关键子空间上，实现连续鲁棒学习，保持对抗鲁棒性。
记忆型持续学习算法的对抗鲁棒性如何提高？
通过调整数据的逻辑值和梯度选择机制，记忆型持续学习算法能够减轻敌对样本导致的信息遗忘，提高对抗鲁棒性。
在各种威胁模型下，如何生成鲁棒分类器？
通过随机生成建模和条件分布采样，在被攻击的图像上添加高斯噪声，生成的鲁棒分类器在多种威胁模型下表现出色。
实验结果如何验证新方法的有效性？
实验结果显示，提出的方法在多种威胁模型下的对抗攻击中表现优于现有防御策略和基准线方法。
