网安标委印发《网络安全技术 生成式人工智能服务安全基本要求（征求意见稿）》
💡
原文中文，约1800字，阅读约需5分钟。
📝
内容提要
随着人工智能技术的发展，生成式人工智能服务在自然语言处理和图像生成方面具有巨大潜力。全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求（征求意见稿）》，规定了训练数据安全、模型安全和安全措施等基本要求，旨在提高服务安全水平。强调了对未成年人使用生成式人工智能服务的限制。
🎯
关键要点
- 生成式人工智能服务在自然语言处理和图像生成方面具有巨大潜力。
- 生成式人工智能服务可能引发新的安全危机，服务提供者需保证安全性和合规性。
- 全国网络安全标准化技术委员会发布了《网络安全技术 生成式人工智能服务安全基本要求（征求意见稿）》。
- 《要求》规定了训练数据安全、模型安全和安全措施等基本要求。
- 训练数据安全要求包括数据来源安全、数据内容安全和数据标注安全。
- 服务提供者需对数据来源进行安全评估，确保数据内容不含违法信息。
- 模型安全要求服务提供者在训练过程中关注生成内容的安全性，并定期进行安全审计。
- 服务提供者需确保生成内容的准确性和可靠性，采取技术措施提高内容质量。
- 应对模型进行持续监测，防范恶意输入攻击，并及时处置安全问题。
- 服务提供者需论证生成式人工智能的必要性和安全性，特别是在关键信息基础设施中。
- 强调未成年人使用生成式人工智能服务的限制，需设定防沉迷措施。
➡️
