验证多传感器融合系统对语义攻击的稳健性
内容提要
该文综述多传感器融合安全研究，提出涵盖目标检测、追踪与深度完成的公共基准及14种数据破坏模式，揭示AI感知系统脆弱性；汇总针对摄像头、GPS等的攻击框架，如3D打印欺骗物成功率超90%、FusionRipper攻击成功率逾97%，并介绍InterFuser等防御方案。
延伸解读
多传感器融合的脆弱性根源
文章指出，当前基于人工智能的多传感器融合感知系统在目标检测、追踪和深度完成任务中均表现出脆弱性。通过14种数据破坏模式的大规模评估，揭示了系统在常见实际干扰下的不可靠性。这提示我们，融合多个传感器并不自动等于安全，反而可能因模态间的复杂交互引入新的攻击面。
攻击成功率揭示的现实风险
文中汇总的攻击框架显示，3D打印欺骗物在真实驾驶场景中成功率超过90%，而FusionRipper对GPS模拟攻击的离线与逆行攻击成功率分别至少97%和91.3%。这些高成功率表明，针对摄像头、GPS等单一模态的攻击即可有效破坏融合模型，自动驾驶系统面临严峻的安全挑战。
防御思路与可解释性探索
为应对上述威胁，文章介绍了InterFuser等防御方案，该框架能融合多模态多视角信息，实现全面场景理解和对抗事件检测，并在CARLA基准中表现优异。同时，特征去噪的对抗性训练也被证明可提升鲁棒性。这些工作强调，防御需兼顾性能与可解释性，以更好限制行动。
Q&A
多传感器融合系统在自动驾驶中面临哪些安全威胁？
多传感器融合系统面临多种安全威胁，包括针对摄像头模态的针对性攻击、3D打印欺骗物攻击（成功率超90%）、GPS模拟攻击（如FusionRipper攻击成功率至少97%和91.3%），以及通过添加物理对抗性物体隐藏车辆等。这些攻击会破坏融合模型，削弱目标检测性能，导致系统不可靠。
有哪些针对多传感器融合系统的攻击框架？
文章汇总了多个攻击框架：针对摄像头模态的针对性攻击框架（可破坏多种融合模型）、3D打印欺骗物攻击（真实世界成功率超90%）、GPS模拟攻击框架FusionRipper（离线攻击成功率至少97%，逆行攻击至少91.3%），以及通过物理对抗性物体隐藏车辆的攻击方法。
如何防御多传感器融合系统免受语义攻击？
文章介绍了多种防御方案：使用特征去噪的对抗性训练方法可显著提高系统鲁棒性；InterFuser安全增强自动驾驶框架能全面融合多模态多视角传感器信息，实现场景理解和对抗事件检测；此外，还有利用VGG系列神经网络融合音频-视觉模态的安全系统，检测准确率达92.25%，并测量模型不确定性以提高鲁棒性。
多传感器融合的公共基准测试包含哪些任务和数据破坏模式？
公共基准测试包含三个任务：目标检测、目标追踪和深度完成。基于此设计了14个常见和实际的数据破坏模式，通过大规模评估揭示了当前基于人工智能的MSF感知系统的脆弱性和不可靠性。
InterFuser框架有什么特点？
InterFuser（Interpretable Sensor Fusion Transformer）是一个安全增强自动驾驶框架，可完全处理和融合来自多模态多视角传感器的信息，实现全面的场景理解和对抗事件检测。在CARLA基准测试中表现优异，并提供中间可解释特征用于更好地限制行动。
多传感器融合系统在GPS模拟攻击下的安全性如何？
研究表明，多传感器融合算法在GPS模拟攻击下存在安全风险。设计的攻击算法FusionRipper能够以至少97%的成功率实现离线攻击，以至少91.3%的成功率实现逆行攻击，表明系统在GPS欺骗下容易受到严重误导。
