简析美国土安全部发布关于缓解AI对关键设施风险的安全指引
内容提要
美国土安全部发布了关于缓解AI风险的安全指引，强调风险管理是持续过程，提供具体缓解策略和与NIST AI RMF的对照映射。
延伸解读
AI风险治理：治理是核心，其他模块是支撑
指引基于NIST AI RMF，强调治理在AI风险管理中的中心地位，映射、测量和管理需围绕治理展开。治理的重点是建立组织文化，包括以设计促安全、透明度和问责机制。映射要求理解AI使用的风险概况，记录对个人、社团和社会的潜在影响。测量需开发评估和跟踪AI风险的系统，管理则优先处理风险并采取行动。这种结构表明，缺乏有效治理，其他措施难以落地。
关键基础设施的AI风险：三类风险与缓解策略
指引聚焦三类AI风险：使用AI辅助攻击、对AI系统进行攻击、AI系统设计和实现中的失败。第一类包括网络和物理攻击，常见向量是AI赋能的社交工程。第二类针对支持关键基础设施的AI系统，攻击向量有对抗性操控、逃逸攻击和服务中断。第三类涉及自主性、脆弱性和不可理解等失败。缓解策略包括对数据集和模型校验、人工监控自动化流程、制定内部AI政策等。
国内企业的合规参考：NIST AI RMF与国内标准
对于国内企业，指引建议参考《人工智能安全标准化白皮书（2023版）》和《信息安全技术 人工智能计算平台安全框架》。NIST AI RMF范围更广，可借鉴其治理、映射、测量和管理框架。同时，需遵循《生成式人工智能服务管理暂行办法》，即使内部使用的AI系统也可能需要合规。指引附录B提供了缓解措施与NIST AI RMF的对照映射，便于企业整合到自身风险管理体系。
Q&A
美国土安全部发布的AI风险安全指引主要针对哪些领域？
该指引主要针对16种关键基础设施领域的AI风险评估。
指引中提到的三种AI风险类型是什么？
三种AI风险类型包括：使用AI系统辅助攻击、对AI系统进行攻击、AI系统设计和实现中的失败。
如何管理和缓解关键基础设施中的AI风险？
关键基础设施拥有者需评估风险并选择合适的缓解措施，贯穿AI生命周期进行风险管理。
指引中提到的NIST AI RMF框架包含哪些功能？
NIST AI RMF框架包含治理、映射、测量和管理四个功能。
指引中提供了多少种AI应用场景的分类？
指引提供了超过150种AI应用场景的分类。
AI风险控制对国家安全和公共安全的重要性是什么？
AI风险控制是国家安全和公共安全的必要，需结合实际情况实施。
