美国启动人工智能风险评估机制 ——简析美国家标准和技术委员会“人工智能风险和影响评估”计划
内容提要
美国国家标准和技术委员会（NIST）发布了“人工智能风险和影响评估”计划（ARIA），旨在建立人工智能风险评估工作机制。该计划包括确定评估方法和指标、强化评估可信性、建立风险识别跟踪机制和定期评估和反馈评估实施的成效。ARIA由NIST组织实施，技术支持由美国人工智能安全研究所提供。评估结果将公开发布，成为人工智能技术或系统设计、开发、部署或使用的重要依据。该机制对我国建立健全人工智能风险管理和评估制度具有参考价值。
关键要点
-
美国国家标准和技术委员会（NIST）发布了“人工智能风险和影响评估”计划（ARIA）。
-
ARIA旨在建立人工智能风险评估工作机制，包括评估方法、指标、可信性、风险识别跟踪机制等。
-
美国的人工智能政策体现出创新与监管并重的特点，鼓励技术创新并强化监管。
-
近年发布的多项政策法规为人工智能发展提供了指导和规范。
-
ARIA是对总统行政命令的响应，扩展了《人工智能风险管理框架V1.0》的风险衡量功能。
-
ARIA评估包括确定评估方法、强化可信性、建立风险识别机制和定期反馈评估成效。
-
评估结果将公开发布，并将成为人工智能技术设计、开发、部署的重要依据。
-
我国正在建立人工智能安全监管机制，已有多部法规政策出台。
-
美国ARIA机制的推出对我国人工智能风险管理和评估制度具有参考价值。
延伸问答
美国的人工智能风险评估计划ARIA的主要目标是什么？
ARIA的主要目标是建立人工智能风险评估工作机制，包括评估方法、指标、可信性和风险识别跟踪机制。
ARIA计划中包含哪些评估方法和指标？
ARIA计划包括模型测试、红队测试和现场测试三种评估方法，并确定了相应的评估指标。
ARIA评估结果将如何应用？
ARIA评估结果将公开发布，并将成为人工智能技术设计、开发、部署或使用的重要依据。
美国在人工智能政策上有哪些创新与监管的平衡措施？
美国的人工智能政策注重引导创新，同时强化监管，出台了一系列政策法规以保障人工智能的安全和发展。
ARIA计划是对哪个行政命令的响应？
ARIA计划是对《关于安全、可靠和可信的人工智能的总统行政命令》的响应。
美国的人工智能风险管理框架V1.0与ARIA计划有什么关系？
ARIA计划扩展了《人工智能风险管理框架V1.0》的风险衡量功能，建立了更完善的评估机制。
