离群数据:对抗样本的熟悉 —— 综述
原文中文,约600字,阅读约需2分钟。发表于: 。深度神经网络在现实应用中会遇到来自分布失真和对抗性攻击的数据,本综述聚焦于这两个领域的交叉研究,探讨如何通过鲁棒的分布失真检测和统一的鲁棒性进行对抗性攻击和对分布失真数据的健壮处理。
该研究提出了一个名为OODRobustBench的基准来评估对抗鲁棒性在输入分布转移下的泛化能力。研究结果显示,对抗鲁棒性在OOD泛化问题上存在严重问题,但ID鲁棒性与OOD鲁棒性呈正线性相关,可以通过ID鲁棒性预测OOD鲁棒性。研究还发现,额外数据、数据增强、先进的模型架构和特定的正则化方法可以提高OOD鲁棒性。该研究为多攻击和未知攻击的鲁棒性提供了新的解决方案。