OpenAI
·
OpenAI对儿童安全的承诺：采用设计安全原则
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
OpenAI与亚马逊、谷歌等公司承诺在生成性AI技术中实施儿童安全措施，旨在降低儿童风险。该倡议由非营利组织Thorn和All Tech Is Human主导，强调在AI开发各阶段优先考虑儿童安全。OpenAI将开发安全模型，清理训练数据中的儿童性虐待材料，并与相关机构合作，定期发布进展更新。
🎯
关键要点
- OpenAI与亚马逊、谷歌等公司承诺在生成性AI技术中实施儿童安全措施。
- 该倡议由非营利组织Thorn和All Tech Is Human主导，旨在降低儿童风险。
- 强调在AI开发各阶段优先考虑儿童安全。
- OpenAI将开发安全模型，清理训练数据中的儿童性虐待材料。
- 与相关机构合作，定期发布进展更新。
- 采取全面的安全设计原则，确保儿童安全在AI开发中的优先地位。
- 设定ChatGPT的年龄限制，积极与国家失踪与被剥削儿童中心等机构合作。
- 承诺开发能够主动应对儿童安全风险的生成性AI模型。
- 负责地获取训练数据集，检测并移除儿童性虐待材料。
- 维护模型和平台安全，持续响应儿童安全风险。
❓
延伸问答
OpenAI在儿童安全方面做了哪些承诺？
OpenAI承诺在生成性AI技术中实施儿童安全措施，包括开发安全模型、清理训练数据中的儿童性虐待材料，并与相关机构合作。
这个儿童安全倡议是由哪个组织主导的？
该倡议由非营利组织Thorn和All Tech Is Human主导。
OpenAI如何确保儿童安全在AI开发中的优先地位？
OpenAI通过采用全面的安全设计原则，确保儿童安全在AI开发的各个阶段被优先考虑。
OpenAI对训练数据的处理有什么具体措施？
OpenAI承诺负责地获取训练数据集，检测并移除儿童性虐待材料，并向相关机构报告确认的材料。
OpenAI与哪些机构合作以增强儿童保护？
OpenAI积极与国家失踪与被剥削儿童中心等机构合作，致力于儿童保护问题。
OpenAI在儿童安全方面的进展更新频率是怎样的？
OpenAI承诺每年发布一次进展更新，报告儿童安全方面的工作进展。
➡️
