攻击基准：对于对抗性样本的基于梯度的攻击评估
内容提要
本文介绍了多种针对神经网络的对抗攻击方法，包括基于遗传算法的黑盒攻击和梯度估计的攻击方法及其评估标准。这些研究旨在提高对抗性鲁棒性，降低攻击所需的查询次数，并为有效性提供新的见解，推动该领域的进一步探索。
延伸解读
黑盒攻击的查询效率突破
文章重点介绍了两种降低黑盒攻击查询量的方法：GenAttack利用遗传算法，在MNIST、CIFAR-10和ImageNet上生成的对抗样本所需查询量比之前方法少几个数量级；另一种基于离散替代的方法无需估计导数，也有效减少了查询次数。这些进展表明，黑盒攻击正变得更为高效，对实际部署的模型构成更大威胁。
对抗攻击评估的标准化趋势
文章提及多个基准框架的建立，如TA-Bench用于评估基于转移的攻击，TAA-Bench专注于可转移性方法，以及一个使用AutoAttack的标准化鲁棒性基准。这些工作旨在提供公平、可重复的评估平台，帮助研究者比较不同攻击与防御方法的表现，推动领域向更严谨的方向发展。
防御与检测的持续对抗
针对对抗样本的威胁，文章提到了一种基于对抗梯度方向的检测方法，仅需单个随机扰动即可识别对抗输入，在多个数据集上AUC-ROC达到97.9%和98.6%，优于其他顶尖检测方法。同时，GenAttack也能攻击一些对抗训练防御，显示出攻防之间的动态博弈仍在持续。
Q&A
什么是GenAttack，它的主要优势是什么？
GenAttack是一种基于遗传算法的无梯度黑盒对抗攻击技术，主要优势在于显著减少查询量，并能成功攻击最新的图像识别模型。
如何评估对抗性鲁棒性？
对抗性鲁棒性通过建立鲁棒性曲线进行评估，并通过大规模实验掌握攻击与防御方法的表现。
新提出的黑盒攻击方法有什么特点？
新提出的基于梯度估计的黑盒攻击方法允许攻击者查询目标模型的类概率，无需使用可转移性，且在多个数据集上成功率超过100%。
对抗性攻击的可转移性为何重要？
对抗性攻击的可转移性重要，因为它影响攻击在不同模型上的有效性，并为跨模型比较提供了基础。
如何降低黑匣子攻击的查询次数？
通过提出离散替代方法，可以在不需要估计导数的情况下有效降低黑匣子攻击所需的查询次数。
Frank-Wolfe算法在对抗攻击中的应用是什么？
Frank-Wolfe算法被提出为一种新型优化算法框架，适用于白盒和黑盒情况下的对抗攻击，具有高效性和优越的性能。
