一种基于 LiDAR 诱导误导的自动驾驶实体轨迹预测攻击
内容提要
本文研究了基于LiDAR传感器的自动驾驶汽车感知系统的安全性，探讨了LiDAR欺骗攻击及其对机器学习模型的影响。提出了CARLO和SVF两种检测方法，并评估了LiDAR-相机融合模型的对抗鲁棒性。模拟实验显示攻击成功率高达90%，并提出了对抗训练策略以增强安全性。
延伸解读
攻击成功率与真实世界可行性
文章指出，针对LiDAR感知系统的攻击在模拟实验中成功率高达90%，且部分方法在真实世界测试中同样有效。例如，通过3D打印的欺骗物可误导自动驾驶系统，成功率超过90%。这表明攻击不仅限于理论，实际部署中也可能被利用，对自动驾驶安全构成严重威胁。
检测与防御方法的效果
为应对LiDAR欺骗攻击，文章提出了CARLO和SVF两种检测方法，其中SVF能进一步降低攻击成功率。此外，基于深度信息的局部物体检测器可有效消除70%以上的虚假汽车攻击，并在百度Apollo系统中得到验证。这些防御策略为提升自动驾驶安全性提供了可行方向。
多传感器融合模型的脆弱性
研究评估了LiDAR-相机融合模型在3D物体检测中的对抗鲁棒性，发现即使图像数据通道未受干扰，仅操纵LiDAR数据通道也能欺骗融合模型。攻击效果受对抗点数量、车辆距离和角度等因素影响。这揭示了多传感器融合设计并非绝对安全，需关注跨模态攻击风险。
轨迹预测模型的对抗敏感性
针对轨迹预测模型Trajectron++和AgentFormer的敏感性分析显示，Trajectron++对最近状态历史时间点的扰动最敏感，而AgentFormer的敏感性分布更广。即使使用难以检测的图像地图扰动，也能显著增加预测误差，甚至导致车辆突然停车。这表明轨迹预测器对对抗攻击缺乏鲁棒性。
Q&A
LiDAR欺骗攻击对自动驾驶系统的影响是什么？
LiDAR欺骗攻击能够有效降低自动驾驶汽车对安全关键物体的探测能力，甚至导致车辆无法检测到障碍物。
CARLO和SVF检测方法的作用是什么？
CARLO和SVF是用于检测和减轻LiDAR攻击的方法，其中SVF进一步降低了攻击的成功率。
自动驾驶系统中LiDAR-相机融合模型的鲁棒性如何？
LiDAR-相机融合模型在3D物体检测中表现出对抗鲁棒性，但仍然可以通过操纵LiDAR数据进行欺骗。
模拟实验中攻击的成功率是多少？
模拟实验显示，LiDAR欺骗攻击的成功率高达90%。
如何增强自动驾驶系统的安全性？
可以通过对抗训练策略来增强自动驾驶系统的安全性，减轻对抗攻击的影响。
研究中提到的对抗攻击框架有什么特点？
该对抗攻击框架能够有效增加预测误差，甚至导致自动驾驶汽车偏离道路或与其他车辆碰撞。
