/cdn.vox-cdn.com/uploads/chorus_asset/file/25557391/STK278_character_ai_B.jpg)
The Verge
·
Character.AI已重新训练其聊天机器人，以停止与青少年聊天
内容提要
Character.AI宣布将推出青少年用户的家长控制功能，并为18岁以下用户开发独立语言模型，以应对媒体关注和诉讼，旨在限制不当内容，保护青少年安全。
关键要点
-
Character.AI宣布将推出青少年用户的家长控制功能。
-
为18岁以下用户开发独立语言模型，以应对媒体关注和诉讼。
-
青少年语言模型将对机器人的回应设置更保守的限制，特别是在浪漫内容方面。
-
系统将更积极地阻止可能敏感或暗示性的输出，并检测用户的引导内容。
-
如果检测到与自杀或自残相关的语言，将弹出提示，指引用户联系国家自杀预防热线。
-
未成年人将无法编辑机器人的回应，以防止绕过内容限制。
-
Character.AI正在添加功能以应对成瘾和对机器人的人类化误解的问题。
-
用户在与机器人互动一小时后将收到通知，旧的免责声明将被更详细的语言替换。
-
包含“治疗师”或“医生”描述的机器人将附加警告，说明不能提供专业建议。
-
家长控制选项将在明年第一季度推出，告知家长孩子在Character.AI上花费的时间和互动的机器人。
-
Character.AI与多位青少年在线安全专家合作进行这些更改。
-
诉讼指控部分未成年用户对机器人产生强迫依赖，且对话可能涉及性话题或自残。
-
Character.AI被批评未能在用户讨论自残或自杀时引导他们获取心理健康资源。
延伸解读
青少年保护措施的必要性
Character.AI推出青少年用户的家长控制功能，反映出对未成年人在线安全的重视。随着社交媒体和聊天机器人的普及，青少年面临的心理健康风险日益增加，尤其是在自残和自杀话题上。家长控制功能的引入，旨在为家长提供更多监控和指导，帮助保护孩子的心理健康。
独立语言模型的影响
Character.AI为18岁以下用户开发的独立语言模型，设置了更保守的回应限制。这一措施不仅有助于减少不当内容的传播，还能更有效地识别和阻止用户引导的敏感话题。这种分级管理的方式，可能会成为其他平台在青少年保护方面的参考标准。
法律诉讼的警示
Character.AI面临的法律诉讼揭示了聊天机器人可能带来的心理健康风险。诉讼指控部分未成年用户对机器人产生强迫依赖，强调了在设计AI系统时，必须考虑用户的心理健康影响。这提醒开发者在创新的同时，需加强对潜在风险的评估与管理。
延伸问答
Character.AI如何保护青少年用户的安全？
Character.AI为青少年用户开发了独立的语言模型，并推出家长控制功能，以限制不当内容，保护青少年安全。
Character.AI的青少年语言模型与成人模型有什么不同？
青少年语言模型对机器人的回应设置了更保守的限制，特别是在浪漫内容方面，并更积极地阻止敏感或暗示性的输出。
如果青少年用户提到自杀或自残，Character.AI会怎么做？
系统会弹出提示，指引用户联系国家自杀预防热线，以应对相关语言的检测。
Character.AI的家长控制功能什么时候推出？
家长控制选项将在明年第一季度推出，告知家长孩子在Character.AI上花费的时间和互动的机器人。
Character.AI如何处理用户对机器人的依赖问题？
Character.AI正在添加功能以应对成瘾问题，并在用户与机器人互动一小时后发送通知。
Character.AI在与青少年安全专家的合作中做了哪些改变？
Character.AI与多位青少年在线安全专家合作，进行了一系列安全措施的更改，包括推出家长控制和改进内容限制。
