本文综述自动驾驶与AI系统安全，涵盖机器学习安全技术、控制架构、风险评估及标准化。AI在汽车业应用广泛，但低形式化与不确定性使传统方法难以验证，需制定AI规范与认证工具。AI安全需跨学科社会技术框架，通过工程方法减小不确定性，确保安全关键任务的可靠性。