BruSLeAttack：一种查询高效的基于评分的黑盒稀疏对抗攻击
内容提要
本文研究了深度学习模型的脆弱性及攻击方式，提出了SparseEvo算法以提升攻击效率。同时介绍了多种黑盒攻击方法，如基于随机搜索的Sparse-RS和利用参考模型梯度降低查询复杂度的方法，这些方法显著提高了攻击的成功率和效率。
延伸解读
黑盒稀疏攻击的演进脉络
文章梳理了从2019年至2024年黑盒稀疏攻击的代表性工作，包括Sparse-RS、基于替代模型指导的方法、参考模型梯度降查询复杂度、贝叶斯优化、压缩感知等。这些方法在查询效率和攻击成功率上不断改进，例如查询数量减少2到4倍，成功率提高2到10倍。SparseEvo作为新提出的算法，在卷积网络和视觉Transformer上评估，显示出更高的攻击效率，但文章也指出仍需进一步探究以增强模型安全性。
查询效率：黑盒攻击的核心挑战
黑盒攻击中查询次数直接关系到攻击的隐蔽性和成本。文章多次强调查询效率的提升：利用预训练替代模型指导优化，在100和250次查询预算下成功率提高约5倍；利用参考模型梯度降低查询复杂度，查询数量减少2x到4x；贝叶斯优化在低维子空间搜索，查询更少且成功率提高2到10倍。这些方法共同指向一个趋势：通过先验知识或低维嵌入，减少对目标模型的直接查询。
稀疏攻击与模型鲁棒性
稀疏攻击旨在最小化扰动的l0距离，使修改的像素尽可能少。文章提到，通过最小化l0距离的攻击方法优于或与现有技术相当，同时可引入部件约束来提高分类器对稀疏和不可察觉对抗操纵的鲁棒性。这表明稀疏攻击不仅是一种攻击手段，也可用于评估和增强模型的鲁棒性。SparseEvo在视觉Transformer等模型上的评估，进一步扩展了稀疏攻击的适用场景。
Q&A
SparseEvo算法的主要优势是什么？
SparseEvo算法在攻击效率上显著高于之前的算法，特别是在卷积深度神经网络和视觉Transformer模型上表现突出。
Sparse-RS框架的应用场景是什么？
Sparse-RS框架适用于黑盒设置下的稀疏目标攻击和非目标攻击，具有多用途特性。
如何提高黑盒攻击的查询效率？
通过利用预训练的替代模型指导优化过程，可以显著提高黑盒攻击的查询效率，成功率提高约5倍。
新型对抗样本攻击方法的核心思想是什么？
新型对抗样本攻击方法通过最小化l0距离，生成具有高级语义模式的对抗性扰动，显著提高查询效率。
贝叶斯优化在黑盒攻击中的作用是什么？
贝叶斯优化用于在低维子空间中搜索对抗样本，减少查询次数并提高攻击成功率，效果提升2到10倍。
如何通过参考模型的梯度降低查询复杂度？
利用参考模型的梯度可以在黑箱攻击中降低查询复杂度，从而提高攻击效率和成功率，查询数量减少2x到4x。
