离群数据：对抗样本的熟悉 —— 综述

BriefGPT - AI 论文速递 · 2024-04-08T00:00:00Z

该研究提出了一个名为OODRobustBench的基准来评估对抗鲁棒性在输入分布转移下的泛化能力。研究结果显示，对抗鲁棒性在OOD泛化问题上存在严重问题，但ID鲁棒性与OOD鲁棒性呈正线性相关，可以通过ID鲁棒性预测OOD鲁棒性。研究还发现，额外数据、数据增强、先进的模型架构和特定的正则化方法可以提高OOD鲁棒性。该研究为多攻击和未知攻击的鲁棒性提供了新的解决方案。