BruSLeAttack:一种查询高效的基于评分的黑盒稀疏对抗攻击

💡 原文中文,约1300字,阅读约需3分钟。
📝

内容提要

本文研究了深度学习模型的脆弱性及攻击方式,提出了SparseEvo算法以提升攻击效率。同时介绍了多种黑盒攻击方法,如基于随机搜索的Sparse-RS和利用参考模型梯度降低查询复杂度的方法,这些方法显著提高了攻击的成功率和效率。

🎯

关键要点

  • 本文研究了深度学习模型的脆弱性与攻击方式,提出了SparseEvo算法以提升攻击效率。

  • SparseEvo算法在卷积深度神经网络和视觉Transformer模型上进行评估,显示出更高的攻击效率。

  • Sparse-RS是一种基于随机搜索的多用途框架,适用于黑盒设置下的稀疏目标攻击和非目标攻击,成功率和查询效率达到最先进水平。

  • 利用预训练的替代模型指导优化过程的新方法显著提高了黑盒攻击的查询效率,攻击成功率提高约5倍。

  • 通过参考模型的梯度降低查询复杂度的方法在黑箱攻击中提高了效率和成功率,查询数量减少2x到4x。

  • 提出的简单迭代算法适用于有目标和无目标攻击,展示了高效性和有效性。

  • 使用贝叶斯优化进行黑盒攻击的方法在低维子空间中搜索对抗样本,攻击成功率提高2到10倍。

  • 新型对抗样本攻击方法通过最小化l0距离,优于或与现有技术相当,且可提高分类器的鲁棒性。

  • 通过压缩感知和概率驱动策略,黑盒攻击中请求数量减少,攻击成功率提高。

  • 新的黑盒对抗攻击方法通过低维嵌入进行高效搜索,生成具有高级语义模式的对抗性扰动,查询效率显著提高。

延伸问答

SparseEvo算法的主要优势是什么?

SparseEvo算法在攻击效率上显著高于之前的算法,特别是在卷积深度神经网络和视觉Transformer模型上表现突出。

Sparse-RS框架的应用场景是什么?

Sparse-RS框架适用于黑盒设置下的稀疏目标攻击和非目标攻击,具有多用途特性。

如何提高黑盒攻击的查询效率?

通过利用预训练的替代模型指导优化过程,可以显著提高黑盒攻击的查询效率,成功率提高约5倍。

新型对抗样本攻击方法的核心思想是什么?

新型对抗样本攻击方法通过最小化l0距离,生成具有高级语义模式的对抗性扰动,显著提高查询效率。

贝叶斯优化在黑盒攻击中的作用是什么?

贝叶斯优化用于在低维子空间中搜索对抗样本,减少查询次数并提高攻击成功率,效果提升2到10倍。

如何通过参考模型的梯度降低查询复杂度?

利用参考模型的梯度可以在黑箱攻击中降低查询复杂度,从而提高攻击效率和成功率,查询数量减少2x到4x。

➡️

继续阅读