DePatch：朝着增强鲁棒性的对抗性补丁以规避现实世界中的人检测器
内容提要
本文介绍了DPatch，一种针对现代计算机视觉系统的对抗性黑盒贴片攻击方法。DPatch能够同时攻击边界框回归和对象分类，展现出高转移性和实用性。此外，研究提出了多种防御措施和新颖的对抗补丁生成方法，显著提高了攻击的成功率和鲁棒性。
延伸解读
DPatch 的攻击目标与迁移性
DPatch 是一种黑盒对抗补丁攻击方法，与仅针对图像分类器的传统对抗补丁不同，它同时攻击目标检测模型中的边界框回归和对象分类，从而禁用预测。文章指出，DPatch 对 Faster R-CNN 和 YOLO 等现代计算机视觉系统具有高迁移性和实用性，这意味着攻击者无需了解目标模型的具体参数也能实现有效攻击。
防御与攻击的演进
文章梳理了对抗补丁领域的多项研究：2020 年有工作提出了针对图像贴片对抗攻击的可证明防御，并在 CIFAR-10 和 ImageNet 上验证了有效性；同年还有研究首次提出认证防御措施，并测试了不同补丁形状的鲁棒性转移。这些防御进展与攻击方法相互促进，反映了该领域持续对抗的态势。
自然补丁与物理攻击增强
为提高实际应用中的攻击效率，有研究通过引入相似度指标构建相似度损失，重新定义优化问题，生成自然的对抗补丁，并加入“Creases Transformation”模块以增强对真实世界扭曲的鲁棒性。此外，针对面部识别系统的物理攻击，采用平滑损失函数和 Patch-noise 结合的方法，实验显示平均攻击成功率分别提升 1.17 倍和 2.39 倍。
DOPatch 与对抗补丁新方向
DOPatch 通过优化多模态对抗位置分布而非个体位置进行攻击，验证了其有效性和效率。其他研究还分析了 375 个生成补丁的主成分，发现线性组合可欺骗目标检测器；通过 Adv-Inpainting 框架生成更具迁移性和视觉质量的自然补丁；以及引入能量最小化和对抗训练来构建集成模型，以增强攻击潜力。这些工作展示了对抗补丁生成方法的多样化发展。
Q&A
DPatch是什么？
DPatch是一种针对现代计算机视觉系统的黑盒贴片攻击方法，能够同时攻击边界框回归和对象分类。
DPatch的主要优势是什么？
DPatch展现出高转移性和实用性，能够有效禁用目标模型的预测。
研究中提出了哪些防御措施？
研究提出了多种防御措施和新颖的对抗补丁生成方法，以提高攻击的成功率和鲁棒性。
如何生成自然的对抗性补丁？
通过引入相似度指标和优化问题，生成自然的对抗性补丁，提升了实际应用中的攻击效率。
DOPatch与DPatch有什么不同？
DOPatch通过优化多模态对抗位置分布进行攻击，相比DPatch在有效性和效率上有所提升。
DPatch的应用场景有哪些？
DPatch可用于对抗现代计算机视觉系统，如Faster R-CNN和YOLO，进行黑盒攻击。
