为何大规模部署物理AI需要在每一层都确保安全
内容提要
物理AI正从研究走向大规模部署，预计2035年将有4900万辆自动驾驶汽车和约6000万台工业机器人投入使用。安全需覆盖硬件、软件、AI、运行环境和部署全生命周期。NVIDIA推出Halos全栈安全系统，涵盖芯片、操作系统、仿真验证与独立认证，助力自动驾驶和机器人安全落地。
延伸解读
安全为何成为物理AI规模化的前提
文章指出，物理AI正从研究走向大规模部署，预计到2035年将有4900万辆L3至L5自动驾驶汽车和约6000万台工业机器人投入使用。当这些机器进入与人共享的道路、工厂和仓库时，安全不再是部署前的一次性检查，而是必须覆盖硬件、软件、AI、运行环境和部署全生命周期。制造商、监管机构、保险公司和工作场所安全团队都需要证据，证明各层能够协同安全运行。
物理AI安全模型面临的四个转变
文章归纳了定义新安全标准的四个转变：动态环境需要情境感知安全，系统必须感知变化并达到安全状态；AI行为需要独立保障，测试需结合设计时、运行时和验证时的护栏，新兴标准如ISO/IEC TS 22440开始应对AI特定风险；部署是持续过程，软件和模型更新可能要求额外安全测试；规模验证需要仿真与合成数据，将真实测试与仿真、场景重建结合。
NVIDIA Halos如何覆盖每一层安全
NVIDIA Halos被描述为首个也是唯一一个面向物理AI的全栈安全系统。在自动驾驶领域，它涵盖DRIVE AGX Thor硬件、基于ASIL-D认证DriveOS的Halos OS、Alpamayo推理视觉语言动作模型以及安全评估框架。在机器人领域，则包括IGX Thor模块、Halos Core、Holoscan Sensor Bridge、Isaac Lab与Omniverse仿真，以及开源Outside-In Safety蓝图。这些组件连接云端开发与端侧部署，使安全证据可追溯。
独立评估与生态协作的意义
文章强调，安全需要独立验证。TÜV SÜD认证了NVIDIA汽车产品生命周期软件流程和DriveOS 6.0达到ISO 26262 ASIL D，TÜV Rheinland对DRIVE AV进行了UNECE安全评估，并对IGX Thor等机器人组件进行功能安全认证准备检查。ANAB认可Halos AI Systems Inspection Lab为ISO/IEC 17020检查机构。生态方面，吉利、五十铃、日产、Einride等构建L4就绪车辆，Uber、Grab、Lyft等出行平台采用Hyperion，机器人领域
Q&A
为什么物理AI大规模部署需要全新的安全模型？
物理AI面临动态环境、AI行为保障、持续部署和规模化验证四大转变，传统静态安全措施已不足，需要覆盖硬件、软件、AI、运行环境和部署全生命周期的安全模型。
NVIDIA Halos是什么？它包含哪些核心组件？
NVIDIA Halos是首个也是唯一一个面向物理AI的全栈安全系统，帮助开发者在设计、验证和部署的每一层实现安全。其组件涵盖硬件（如DRIVE AGX Thor、IGX Thor）、操作系统与中间件（Halos OS、Halos Core）、端到端模型（Alpamayo）、仿真验证（Halos Safety Evaluation Framework、Isaac Lab、Omniverse）以及独立认证（Halos AI Systems Inspection Lab）。
NVIDIA Halos在自动驾驶和机器人领域分别提供了哪些具体的安全方案？
在自动驾驶领域，Halos提供DRIVE AGX Thor计算平台、Hyperion参考架构、基于ASIL-D认证DriveOS的Halos OS、Alpamayo推理视觉语言行动模型以及Halos安全评估框架。在机器人领域，提供IGX Thor工业级模块、Halos Core for IGX软件基础、Holoscan Sensor Bridge实时传感、Isaac Lab和Omniverse仿真验证，以及开源Outside-In Safety Blueprint。
NVIDIA Halos如何获得独立安全认证？
在自动驾驶方面，TÜV SÜD认证了NVIDIA汽车产品生命周期软件流程和DriveOS 6.0达到ISO 26262 ASIL D，以及汽车工程流程符合ISO/SAE 21434；TÜV Rheinland对NVIDIA DRIVE AV进行了独立UNECE安全评估。在机器人方面，TÜV Rheinland正在检查IGX Thor、Halos OS和Holoscan Sensor Bridge的功能安全认证准备情况。此外，ANAB认可Halos AI Systems Inspection Lab为ISO/IEC 17020检查机构。
哪些公司正在使用NVIDIA Halos构建物理AI解决方案？
在自动驾驶领域，吉利、五十铃、日产（使用Wayve软件）和Einride正在基于NVIDIA Hyperion构建L4级车辆，Uber、Grab、Lyft等出行公司也在使用Hyperion扩展robotaxi。Halos AI Systems Inspection Lab成员包括AUMOVIO、博世、Gatik、禾赛、Lucid、MIRA、安森美、PlusAI、索尼、法雷奥和Wayve。在机器人领域，acontis和QNX提供嵌入式软件，研华和NexCOBOT构建安全设计的IGX系统，英飞凌、恩智浦、意法半导体和德州仪器提供半导体技术，KION Group开发自动叉车功能安全代理，Agility将IGX Thor和Halos Core集成到Digit 5人形机器人安全系统中。
物理AI安全为什么需要仿真和合成数据？
因为潜在场景的数量和复杂性极高，仅靠真实世界测试无法覆盖所有情况，必须结合仿真、合成数据生成和场景重建，才能实现规模化验证。
