SlowPerception: 自主驾驶中针对视觉感知的物理世界延迟攻击
内容提要
本文讨论了自动驾驶中的实时感知及其安全性，提出了多种对抗性攻击框架，如SlowTrack和ControlLoc，并评估了其在不同条件下的攻击成功率。研究表明，系统级攻击设计SysAdv显著提高了攻击效果，同时探讨了多传感器融合设计的安全性和深度学习模型的干扰方法，强调了对抗攻击对自动驾驶系统的影响。
延伸解读
攻击效果从组件级到系统级的跃升
文章指出，以往研究多在AI组件级别评估攻击效果，而忽略了整个系统语义和上下文的影响。SysAdv作为一种系统驱动攻击设计，首次在现实自动驾驶背景下测量系统级攻击效果，结果表明系统级效果能够显著改善。这意味着仅关注单一模块的鲁棒性可能不足以保障整体安全，系统级联效应会放大攻击危害。
物理世界攻击的可行性与实际影响
ControlLoc物理对抗贴片攻击在实验中达到了98.1%的成功率，实际车辆测试中也有77.5%的成功率，并导致车辆碰撞率上升和不必要的紧急停车率高达81.3%。这些数据表明，物理世界攻击不仅可行，而且能直接引发危险驾驶行为。多传感器融合方案在多源攻击下成功率超过90%，说明融合设计并未天然免疫此类威胁。
多传感器与LiDAR安全研究的进展
文章提到，针对多传感器融合的欺骗攻击使用3D打印欺骗物，在真实场景中成功率超过90%，且硬件捕捉后仍可行。同时，LiDAR感知系统首次被安全研究，探讨了欺骗攻击的可能性和防御方向，后续工作提出了CARLO和SVF等检测与缓解方法。这显示感知安全研究正从摄像头扩展到多模态，但防御仍处于早期阶段。
Q&A
SlowTrack攻击框架的主要优势是什么？
SlowTrack在保持可感知性水平的同时，显著优于现有的基于延迟的攻击。
ControlLoc攻击的成功率有多高？
ControlLoc的攻击成功率高达98.1%。
SysAdv攻击设计的作用是什么？
SysAdv是一种新颖的系统驱动攻击设计，能够显著改善系统级攻击效果。
多传感器融合设计在攻击下的安全性如何？
多传感器融合设计在多源攻击下的安全性受到研究，攻击成功率超过90%。
深度学习模型的对抗攻击是如何实现的？
通过在路面上绘制黑色线条，实现对深度神经网络模型的干扰。
LiDAR传感器的安全研究主要探讨了什么？
LiDAR传感器的安全研究探讨了欺骗攻击的可能性和防御方向。
