OpenAI
·
我们对社区安全的承诺
💡
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
当前社会中，枪击事件和暴力威胁日益严重。ChatGPT致力于识别和防范潜在的暴力行为，通过训练模型拒绝暴力相关请求，并提供危机资源以帮助用户。我们使用自动检测系统监控用户活动，确保遵守使用政策，并在必要时通知执法机构。同时，引入家长控制功能，帮助家庭安全使用ChatGPT。
🎯
关键要点
-
当前社会中，枪击事件和暴力威胁日益严重，ChatGPT致力于识别和防范潜在的暴力行为。
-
ChatGPT通过训练模型拒绝暴力相关请求，并提供危机资源以帮助用户。
-
我们使用自动检测系统监控用户活动，确保遵守使用政策，并在必要时通知执法机构。
-
引入家长控制功能，帮助家庭安全使用ChatGPT，家长可以定制设置以确保青少年安全使用。
-
我们不断改进模型和检测方法，以应对新出现的风险，并在必要时进行人工审核。
-
当检测到用户可能计划或实施暴力时，我们会采取措施，包括撤销对OpenAI服务的访问权限。
❓
延伸问答
ChatGPT如何识别和防范潜在的暴力行为？
ChatGPT通过训练模型拒绝暴力相关请求，并使用自动检测系统监控用户活动，以识别潜在的风险。
如果用户在ChatGPT中表现出暴力倾向，会发生什么？
如果检测到用户可能计划或实施暴力，ChatGPT会采取措施，包括撤销对OpenAI服务的访问权限。
ChatGPT如何帮助用户在危机情况下？
ChatGPT会提供本地危机资源，并鼓励用户联系心理健康专业人士或信任的亲友。
家长控制功能如何帮助家庭安全使用ChatGPT？
家长可以链接他们的账户与青少年的账户，定制设置以确保安全和适龄的使用体验。
ChatGPT如何监控用户活动以确保遵守使用政策？
ChatGPT使用自动检测系统分析用户内容和行为，以识别可能的政策违规或有害活动。
ChatGPT在处理敏感对话时采取了哪些措施？
ChatGPT不断改进模型和检测方法，以识别潜在的风险，并在必要时进行人工审核。
➡️
