HoloVIC: 多传感器全息交叉与车辆基础设施协同的大规模数据集和基准
内容提要
本文介绍了多个车路协同自动驾驶的多模态数据集和框架,如DAIR-V2X和V2X-Seq,旨在提升3D物体检测和跟踪性能。研究提出了新型合作感知模型HM-ViT和CoopDet3D,展示了在复杂场景下的优越性。此外,基于V2X通信的框架在恶劣环境中也表现出良好的稳健性,推动了自动驾驶技术的发展。
关键要点
-
发布了第一个用于车路协同自动驾驶的真实场景多模态多视角数据集 DAIR-V2X,包含 71254 帧 LiDAR 和摄像头帧。
-
介绍了 V2V4Real 多模态数据集,包含 20K LiDAR 帧和 40K RGB 帧,针对协作 3D 物体检测和跟踪提出了问题。
-
提出了新型多智能体异态合作感知框架 HM-ViT,实验证明其在动态交通中的效果优于先前方法。
-
合作感知技术通过路侧和车载传感器提高了自主车辆的能力和道路安全,提出了 CoopDet3D 模型,提升了三维 mAP。
-
开发了第一个大规模的开放式模拟数据集,包含 70 个场景和 232913 标注的三维车辆边界框。
-
引入了 V2X-Seq 数据集,提出了三个新的车辆基础设施协作自动驾驶任务,并提供了基准。
-
提出了多视角车路协同感知系统 V2X-AHD,利用多头自注意力提高 3D 物体检测的准确性。
-
开发了新框架 HPL-ViT,用于异构和动态场景中的稳健特征融合,展示了出色的泛化能力。
-
研究了基于 V2X 通信的协作感知框架 V2X-ViT,在恶劣环境下表现出良好的稳健性。
-
提出了基于相机的三维检测框架 EMIFF,显著提高了车辆和基础设施之间的协作感知性能。
延伸问答
DAIR-V2X数据集的主要内容是什么?
DAIR-V2X数据集包含71254帧LiDAR和摄像头帧,旨在解决车路协同3D物体检测问题。
HM-ViT框架的优势是什么?
HM-ViT框架在动态交通中表现优于先前的合作感知方法,能够在异构传感器模态下协同预测三维物体。
V2X-Seq数据集提供了哪些新任务?
V2X-Seq数据集提出了VIC3D跟踪、在线和离线预测三个新的车辆基础设施协作自动驾驶任务。
CoopDet3D模型的改进效果如何?
CoopDet3D模型在三维mAP上实现了14.36的提升,相比于车载摄像头-LiDAR融合模型表现更佳。
V2X-ViT框架在恶劣环境中的表现如何?
V2X-ViT框架在恶劣嘈杂的环境下表现出良好的稳健性,能够在3D物体检测中取得state-of-the-art的表现。
EMIFF框架的创新点是什么?
EMIFF框架通过引入多尺度交叉注意力和相机感知通道掩蔽模块,增强了车辆和基础设施之间的协作感知性能。