曝Bengio新动向:世界模型+数学证明,确保AI系统正常运作
原文中文,约2600字,阅读约需7分钟。发表于: 。加入新AI安全项目
深度学习专家Yoshua Bengio加入Safeguarded AI项目,旨在构建负责理解和降低其他AI风险的AI系统。项目由英国高级研究与发明局支持,投入5900万英镑。Bengio将关注科学战略建议。项目划分为三个技术领域:支架、机器学习和应用。他们提出了一套称为“Guaranteed Safe AI”的模式,通过世界模型、安全规范和验证器量化AI系统的安全保障。