ChatGPT正在改进安全性，以更好地识别自残和他人伤害的潜在风险。通过与心理健康专家合作，系统能够识别对话中的微妙信号并提供适当响应。这些更新显著提高了在高风险情况下的安全响应能力，确保更好地保护用户。

Instagram将于下周向选择监督的家庭发送通知，提醒家长关注青少年搜索与自残或自杀相关的内容。该功能预计将扩展到其他地区。Meta还计划为其聊天机器人推出类似的警报系统。

Character.AI与谷歌已与多名因与聊天机器人互动而自残或自杀的青少年家庭达成和解，具体细节尚未公布，仍需法院批准。Character.AI已加强用户保护措施，包括为未成年人设立更严格的内容限制和家长控制。

OpenAI 正在 ChatGPT 中测试新的安全路由器，能够自动识别并处理自残或自杀相关的敏感话题。该系统会将对话引导至严格的安全模型 GPT-5-Chat-Safety，并在必要时由人工团队进行审核和报警。这一措施旨在提升 AI 的安全性，但也引发了隐私争议。

Meta正在调整聊天机器人的规则，以防止与未成年人讨论自残、自杀和饮食失调等敏感话题。公司承认之前政策存在问题，并将限制某些AI角色的访问。尽管已采取临时措施，但仍需加强执行，以应对聊天机器人冒充名人的情况。

Meta、Snap和TikTok联合推出“Thrive”计划，旨在遏制自残和自杀内容的传播。该计划允许参与公司共享违规内容的信号，以便相互警告。Meta表示，已采取措施减少此类内容的可见性，同时允许人们讨论心理健康问题。