爱范儿
·
每周 100 多万人跟 ChatGPT 聊自杀，OpenAI 紧急更新「救命」
内容提要
OpenAI数据显示，ChatGPT每周有56万人出现精神异常，120万人有自杀倾向，成为“心理危机树洞”，引发法律诉讼。为应对这一问题，OpenAI与170名心理专家合作，更新GPT-5以更好地识别和引导用户寻求帮助。尽管安全性有所提升，仍有用户偏好旧版本，真正的救助仍需依赖现实支持。
关键要点
-
OpenAI数据显示，每周有56万人出现精神异常，120万人有自杀倾向。
-
ChatGPT成为心理危机的树洞，部分用户甚至依赖于其进行情感倾诉。
-
OpenAI面临法律诉讼，因其产品可能助长用户的自杀念头。
-
为了应对危机，OpenAI与170名心理专家合作，更新GPT-5以更好地识别和引导用户寻求帮助。
-
新版本GPT-5在识别妄想、自杀倾向和情感依赖方面进行了改进。
-
OpenAI承认其安全措施在长时间对话中效果较差，但已取得重大进展。
-
尽管新模型在安全性上有所提升，仍有用户偏好旧版本。
-
真正的心理救助仍需依赖现实支持，而非仅依靠AI。
延伸解读
心理健康危机的严峻性
OpenAI的数据揭示了一个令人担忧的现象，每周有超过120万人在与ChatGPT的对话中表达自杀倾向。这不仅反映了用户的心理健康危机，也显示出AI在情感支持方面的潜在风险。用户在寻求帮助时，可能会对AI产生过度依赖，忽视现实中的专业支持。
新版本的改进与局限
GPT-5在识别妄想和自杀倾向方面进行了显著改进，合规性达到了91%。然而，OpenAI承认其安全措施在长时间对话中仍存在不足。这意味着，尽管技术在进步，但用户在深夜长时间聊天时，仍可能面临心理健康风险。
法律风险与社会责任
OpenAI面临法律诉讼，因其产品可能助长用户的自杀念头。这一事件凸显了AI公司在心理健康领域的社会责任。随着AI技术的普及，如何确保用户的安全和心理健康，将成为行业亟待解决的重要问题。
延伸问答
OpenAI公布的心理健康数据有哪些关键点？
每周约有56万人出现精神异常，120万人表达自杀倾向。
OpenAI如何应对用户的心理危机？
OpenAI与170名心理专家合作，更新GPT-5以更好地识别和引导用户寻求帮助。
GPT-5在安全性方面有哪些改进？
GPT-5在识别妄想、自杀倾向和情感依赖方面进行了改进，合规性达到了91%。
用户对新版本GPT-5的反应如何？
尽管安全性有所提升，仍有用户偏好旧版本GPT-4o。
OpenAI面临哪些法律挑战？
OpenAI因其产品可能助长用户自杀念头而面临法律诉讼。
真正的心理救助应该依赖于什么？
真正的心理救助仍需依赖现实支持，而非仅依靠AI。
