深度学习专家Yoshua Bengio加入Safeguarded AI项目，旨在构建负责理解和降低其他AI风险的AI系统。项目由英国高级研究与发明局支持，投入5900万英镑。Bengio将关注科学战略建议。项目划分为三个技术领域：支架、机器学习和应用。他们提出了一套称为“Guaranteed Safe AI”的模式，通过世界模型、安全规范和验证器量化AI系统的安全保障。