攻击基准：对于对抗性样本的基于梯度的攻击评估
原文中文，约1400字，阅读约需4分钟。
📝
内容提要
本文介绍了多种针对神经网络的对抗攻击方法，包括基于遗传算法的黑盒攻击和梯度估计的攻击方法及其评估标准。这些研究旨在提高对抗性鲁棒性，降低攻击所需的查询次数，并为有效性提供新的见解，推动该领域的进一步探索。
❓
Q&A
什么是GenAttack，它的主要优势是什么？
GenAttack是一种基于遗传算法的无梯度黑盒对抗攻击技术，主要优势在于显著减少查询量，并能成功攻击最新的图像识别模型。
如何评估对抗性鲁棒性？
对抗性鲁棒性通过建立鲁棒性曲线进行评估，并通过大规模实验掌握攻击与防御方法的表现。
新提出的黑盒攻击方法有什么特点？
新提出的基于梯度估计的黑盒攻击方法允许攻击者查询目标模型的类概率，无需使用可转移性，且在多个数据集上成功率超过100%。
对抗性攻击的可转移性为何重要？
对抗性攻击的可转移性重要，因为它影响攻击在不同模型上的有效性，并为跨模型比较提供了基础。
如何降低黑匣子攻击的查询次数？
通过提出离散替代方法，可以在不需要估计导数的情况下有效降低黑匣子攻击所需的查询次数。
Frank-Wolfe算法在对抗攻击中的应用是什么？
Frank-Wolfe算法被提出为一种新型优化算法框架，适用于白盒和黑盒情况下的对抗攻击，具有高效性和优越的性能。
🏷️
