BriefGPT - AI 论文速递
·
对抗基于查询的黑盒攻击中的非加性随机性的探索
💡
原文中文，约400字，阅读约需1分钟。
📝
内容提要
该文介绍了基于查询的黑盒攻击（QBBA）如何利用图像查询的模型输出概率创建扰动，而无需访问底层模型，给现实世界应用带来了真实威胁。作者提出了基于非加性随机性的模型防御策略，并关注于基于灵活架构的未被充分探索的Vision Transformers。实验表明，该防御方法能够在不过多降低性能的情况下实现有效的防御。
🎯
关键要点
- 深度神经网络易受微小且难以察觉的扰动影响。
- 基于查询的黑盒攻击（QBBA）能够利用图像查询的模型输出概率创建扰动，无需访问底层模型。
- QBBA 给现实世界应用带来了真实威胁。
- 最近通过各种鲁棒性方法来防御 QBBA。
- 文章对 QBBA 的随机性防御策略进行了分类。
- 建议研究基于非加性随机性的模型防御 QBBA。
- 关注基于灵活架构的未被充分探索的 Vision Transformers。
- 实验表明，所提出的防御方法能够有效防御且不过多降低性能。
➡️
