对抗基于查询的黑盒攻击中的非加性随机性的探索
原文中文,约400字,阅读约需1分钟。发表于: 。深度神经网络易受微小且难以察觉的扰动影响。基于查询的黑盒攻击(QBBA)能够利用图像查询的模型输出概率创建扰动,而无需访问底层模型。QBBA 给现实世界应用带来了真实威胁。最近,人们通过各种鲁棒性方法来防御 QBBA。在本文中,我们首先对 QBBA 的随机性防御策略进行分类。根据我们的分类法,我们建议研究基于非加性随机性的模型防御 QBBA。具体而言,我们关注于基于灵活架构的未被充分探索的...
该文介绍了基于查询的黑盒攻击(QBBA)如何利用图像查询的模型输出概率创建扰动,而无需访问底层模型,给现实世界应用带来了真实威胁。作者提出了基于非加性随机性的模型防御策略,并关注于基于灵活架构的未被充分探索的Vision Transformers。实验表明,该防御方法能够在不过多降低性能的情况下实现有效的防御。