最近测试多个AI聊天机器人在心理危机中的反应，发现大多数无法提供有效支持，只有ChatGPT和Gemini能准确提供危机热线。专家建议聊天机器人应更主动引导用户寻求帮助，以减轻用户的绝望感。

我们更新了ChatGPT模型，以更好地识别和支持困扰中的人。通过与心理健康专家合作，模型能更有效地识别困扰、缓解对话，并引导用户寻求专业帮助。同时，我们扩展了危机热线的访问，改进了对心理健康问题的响应，减少了不当回答的比例。新模型在处理心理健康和情感依赖方面有显著提升。

基础模型可能通过意外和冲突升级威胁国家安全。OpenAI与加州大学伯克利分校的研讨会探讨了应对这些风险的信任建立措施，如危机热线、事件共享和透明度。这些措施需要广泛参与，既可由AI实验室实施，也可由政府相关方执行。