该研究针对自动驾驶在安全关键场景中的评估不足，定义了安全关键场景，建立了测试平台，并提出了系统性的安全验证过程，为行业提供了标准化测试框架，以降低实际道路部署风险。

该文章介绍了一种评估自动驾驶车辆规划算法性能的新方法，通过引入闭环模拟框架和基于引导扩散模型，生成现实世界情景的安全关键场景，并提高评估的全面性和互动性。该方法为自动驾驶领域提供了强大而通用的基础。

该研究提出了基于NeRF的自动驾驶模拟器，用于测试自动驾驶软件系统。模拟器能够重构和渲染新的未见场景，并评估自动驾驶模型对安全关键场景的响应。评估结果显示端到端规划器在闭环环境中存在缺陷，需要改进。研究者公开发布了模拟器和场景，邀请研究界探索、完善和验证自动驾驶模型。

通过引入基于引导扩散模型的闭环模拟框架，提出一种新的方法来生成现实世界情景的安全关键场景，并通过增强的可控性使评估更全面和互动性更强。通过相关的引导目标，改善了道路进展，同时降低了碰撞和离道率。通过去噪过程中的对抗项，开发了一种模拟安全关键场景的新方法，使对抗性代理能够通过可行的操纵手段挑战规划器，同时场景中的所有代理均表现出反应灵敏和逼真的行为。通过使用 NuScenes 数据集的实证验证了框架，证明了在现实性和可控性方面的改进。这些发现肯定了引导扩散模型为安全关键、互动式交通模拟提供了强大而通用的基础，进一步扩展了其在自动驾驶领域的实用性。

深度神经网络在自动驾驶等安全关键场景中广泛使用，但受到对抗样本的威胁。对抗攻击可分为白盒和黑盒，目的可分为有目标和非有目标。黑盒设置是实践中常遇到的情况。