社区安全报告与青少年新保护措施
内容提要
OpenAI发布社区安全报告，宣布加强ChatGPT暴力防范：限制大规模袭击细节，更谨慎识别预警信号，必要时自动终止对话并暂停账户；第三季度向执法部门移交超200起威胁。针对未成年人进一步限制武器信息，强化年龄预测与家长控制。首份报告将于2027年初发布，此后每半年更新。
延伸解读
从内容限制到主动干预：安全策略的升级
OpenAI此次不仅限制暴力内容，还引入自动终止对话和暂停账户的干预机制。当对话显示有人沉迷暴力或严重伤害他人的想法时，ChatGPT可自动结束聊天以打断模式；若多次因此结束，账户可能被临时暂停。这标志着从被动响应转向主动干预，但文章也承认识别预警信号的可靠性仍是持续挑战。
青少年保护：年龄预测与家长控制联动
针对未成年人，OpenAI进一步限制武器相关信息，即使问题看似无害。年龄预测系统通过行为模式等信号持续评估用户是否成年，误判为未成年者可通过Persona验证年龄。家长控制允许关联账户并接收安全警报，7月已扩展至青少年因暴力违规被停号时通知家长，未来还将覆盖因反复讨论暴力被暂停的情况。
透明度承诺：首份报告2027年发布
OpenAI承诺发布社区安全报告，首份将于2027年初发布，覆盖2026年下半年，此后每半年更新。报告将解释系统如何检测、调查和响应社区安全问题，分享匿名化案例、新缓解措施和政策变化，并包含相关数据。这有助于外界了解其安全措施的实际效果，但报告尚未发布，具体内容与数据质量有待观察。
Q&A
OpenAI 在第三季度向执法部门移交了多少起威胁案件？
OpenAI 在 2026 年第三季度向执法部门移交了超过 200 起威胁案件。
ChatGPT 对过去大规模袭击事件的回答有哪些新限制？
ChatGPT 被指示提供更少细节，限制对过去大规模袭击的重构，包括武器和装备细节、获取方式，以及可能放大攻击者恶名的危害规模详细比较。这些限制适用于所有用户，无论年龄或提问原因。
ChatGPT 如何应对对话中出现的暴力预警信号？
当近期聊天显示可能的暴力预警信号时，ChatGPT 在分享可能被滥用的信息时会更加保守。如果对话显示有人正沉迷于暴力或严重伤害他人的想法，ChatGPT 可以自动结束聊天以中断该模式；若多次因此结束聊天，可能会暂时暂停账户。
针对青少年，ChatGPT 在武器信息方面增加了哪些限制？
ChatGPT 进一步限制青少年可获得的武器相关信息，即使问题看似无害。政策禁止帮助任何人策划或实施暴力，并限制帮助青少年寻找或获取武器。现在扩展到限制可能被滥用来促进暴力的武器和安全系统的实用信息，即使没有暴力意图迹象。
OpenAI 的年龄预测系统如何运作？
年龄预测系统分析行为模式等多种信号来估计用户是否可能低于或超过 18 岁。系统持续评估新信号，并在适当时将青少年移入 18 岁以下体验。被错误归类的用户可通过年龄验证合作伙伴 Persona 快速、隐私保护地确认成年身份并移除额外青少年保护。
家长控制功能有哪些安全提醒？
家长控制允许父母将账户与青少年关联并共同管理安全设置。关联账户包括安全提醒，当受过专门培训的审核人员发现严重自残担忧或可能与饮食失调相关的行为时会发送。2026 年 7 月，提醒范围扩大至青少年账户因违反暴力使用政策被停用时通知家长。OpenAI 正努力在因反复讨论暴力而暂停青少年账户时也通知家长。
OpenAI 首份社区安全报告何时发布？包含哪些内容？
首份社区安全报告将于 2027 年初发布，覆盖 2026 年下半年，此后每半年更新一次。报告将解释系统如何训练以检测、调查和响应社区安全问题，分享暴力相关危害的匿名示例、新缓解措施和政策变化，并包含相关数据。
