对抗性井盖：挑战单目深度估计和语义分割模型的补丁攻击
内容提要
本文探讨了单目深度估计神经网络在对抗攻击下的鲁棒性，实验表明微小扰动会显著影响深度估计。研究提出了一种新方法以增强攻击效果，并评估了不同攻击对模型的影响，强调了在自动驾驶等应用中的安全隐患。此外，研究还提出了自监督对抗训练方法，以提高模型对真实世界攻击的鲁棒性。
延伸解读
攻击演进：从数字到物理世界的威胁
文章梳理了对抗性补丁攻击在单目深度估计领域的发展脉络。从2020年验证微小扰动即可显著影响深度估计，到2022年提出物体定向攻击方法并在实际驾驶场景中实现超过6米的平均误差和93%以上的成功率，攻击方式逐渐从数字空间转向物理世界。2023年的研究进一步设计了隐蔽补丁，导致深度估计出现60%的误差，且人眼难以察觉。这些进展表明，对抗攻击正变得更具现实威胁，尤其是在自动驾驶等安全关键应用中。
语义分割的脆弱性：越野场景的挑战
除了深度估计，文章也关注了语义分割模型在越野自动驾驶中的鲁棒性问题。2022年的研究指出，对抗补丁的影响通常局限于图像周围的补丁区域，但实时语义分割模型的鲁棒性仍需进一步探讨。2023年的工作则专门针对越野环境，发现现有分类器容易受到轻微扰动的影响，导致高自信度的错误预测。为此，研究者创建了只包含鲁棒特征的数据集，并训练网络以提高鲁棒性，这为复杂无结构环境中的安全导航提供了新思路。
防御策略：自监督对抗训练与鲁棒性提升
面对对抗攻击的威胁，文章介绍了多种防御方法。2024年提出的自监督对抗训练方法，利用视图合成增强单目深度估计模型对真实世界攻击的鲁棒性，无需真实深度地面真值，且在两个代表性网络上验证了其优于监督学习和对比学习的效果，对良性性能影响最小。此外，针对语义分割，通过鲁棒数据集训练网络也显示出潜力。这些防御策略强调了在缺乏标注数据的情况下提升模型鲁棒性的可能性，为实际部署提供了参考。
Q&A
单目深度估计神经网络的鲁棒性受到什么影响？
微小的扰动和少于1%的图像损坏会显著影响单目深度估计神经网络的鲁棒性。
研究中提出了什么方法来增强对抗攻击效果？
研究提出了一种新的深度特征损坏损失来增强对抗攻击效果。
对抗补丁攻击对自动驾驶的影响是什么？
对抗补丁攻击可能在实际驾驶场景中造成显著的深度估计误差，影响自动驾驶的安全性。
如何提高模型对真实世界攻击的鲁棒性？
研究提出了一种新颖的自监督对抗训练方法，以增强模型对真实世界攻击的鲁棒性。
隐蔽补丁的效果如何？
设计的隐蔽补丁成功导致深度估计出现60%的误差，且对人类观察者不易察觉。
研究中创建了什么样的鲁棒数据集？
研究创建了一个只包含鲁棒特征的鲁棒数据集，以提高语义分割模型的鲁棒性。
