OpenAI
·
帮助开发者为青少年构建更安全的人工智能体验
💡
原文英文，约1000词，阅读约需4分钟。
📝
内容提要
我们发布了基于提示的安全政策，旨在帮助开发者为青少年提供适当的保护措施。这些政策简化了安全要求，支持开发者在保护年轻用户的同时促进创新。我们与外部组织合作，确保政策涵盖青少年特有的风险，以便开发者有效应用于实际系统。
🎯
关键要点
- 发布基于提示的安全政策，帮助开发者为青少年提供适当的保护措施。
- 这些政策简化了安全要求，支持开发者在保护年轻用户的同时促进创新。
- 与外部组织合作，确保政策涵盖青少年特有的风险。
- 更新模型规范，加入未成年人原则，推出家长控制和年龄预测等产品级保护措施。
- 发布的安全政策针对青少年面临的常见风险，结构化为可直接使用的提示。
- 政策包括图形暴力内容、图形性内容、有害身体理想和行为等。
- 与外部专家合作，确保政策的有效性和适用性。
- 这些政策是一个起点，鼓励开发者根据具体需求进行调整和扩展。
- 政策作为开源发布，鼓励合作和迭代，促进青少年安全政策的共享基础。
❓
延伸问答
这些安全政策的主要目标是什么？
这些安全政策旨在帮助开发者为青少年提供适当的保护措施，确保他们在使用人工智能时的安全。
开发者如何使用这些安全政策？
开发者可以将这些政策作为提示直接应用于gpt-oss-safeguard等模型，以便在系统中实施一致的安全标准。
这些政策是如何确保覆盖青少年特有的风险的？
政策是通过与外部组织合作，结合对青少年独特发展差异的研究，来确保涵盖青少年特有的风险。
这些安全政策的结构是怎样的？
这些安全政策被结构化为可直接使用的提示，便于开发者在实际系统中应用。
这些政策是否是最终解决方案？
不是，这些政策是一个起点，开发者应根据具体需求进行调整和扩展。
如何参与这些安全政策的改进？
可以通过ROOST Model Community的GitHub仓库提供反馈或分享额外的青少年安全政策，参与改进。
➡️
