百度的Apollo Go无人出租车在武汉发生系统故障,导致乘客被困车内,造成交通混乱。警方已接到多起报告,此事件引发了对中国自动驾驶汽车安全性的讨论。
本文提出了一种可变大小的后门触发器,克服了视点与对象距离的干扰,并介绍了恶意对抗训练方法以提高后门攻击成功率。研究表明,实体后门攻击对依赖关键特征的系统影响显著,且能够规避现有防御。文章还探讨了物理攻击的特性及防御策略,揭示了自动驾驶车辆面临的后门威胁,旨在提升安全性。
该文汇总多项自动驾驶安全研究,涵盖代理模型验证ADS行为、强化学习寻找故障场景、结合人类驾驶轨迹改进运动规划、循环神经网络提升DRL鲁棒性、神经网络实时风险评估、自适应压力测试探索角落案例、多智能体强化学习实现交互感知决策,并关注ADS伦理与生成式AI合成数据。
本文综述自动驾驶与AI系统安全,涵盖机器学习安全技术、控制架构、风险评估及标准化。AI在汽车业应用广泛,但低形式化与不确定性使传统方法难以验证,需制定AI规范与认证工具。AI安全需跨学科社会技术框架,通过工程方法减小不确定性,确保安全关键任务的可靠性。
本文综述深度强化学习在自动驾驶安全领域的多项研究,涵盖多智能体不确定行为处理、规则与学习结合的安全模块、预测约束探索、闭环安全控制、代理模型验证、对抗强化学习博弈、部分可观测马尔可夫博弈平台、生成网络合成驾驶行为、黑盒验证自我完善系统及DeepQTest测试方法,旨在提升自动驾驶功能安全与决策可靠性。
完成下面两步后,将自动完成登录并继续当前操作。