The Verge
·
Character.AI禁止未成年人使用AI角色聊天
内容提要
Character.AI将于11月25日起限制18岁以下用户的聊天时间，并全面禁止其使用。公司推出新的年龄验证模型以识别用户年龄，未成年人可访问安全版聊天，成年人需通过第三方验证证明年龄。此举是因诉讼压力而采取的，旨在提高安全性。
关键要点
-
Character.AI将于11月25日起限制18岁以下用户的聊天时间，最终全面禁止其使用。
-
公司推出新的年龄验证模型，以识别用户年龄，未成年人将被引导至安全版聊天。
-
成年人可通过第三方验证证明年龄，使用政府身份证等敏感数据。
-
未成年人仍可访问旧聊天记录及非聊天功能，如创建角色和制作视频。
-
Character.AI因诉讼压力而采取这些措施，涉及不当关系和疏忽等指控。
-
加州通过法案要求开发者明确告知用户聊天机器人是AI而非人类。
-
公司推出自愿的“家长洞察”功能，向家长发送用户活动摘要。
-
Character.AI对限制青少年用户表示遗憾，称这是“非常大胆的举措”。
-
虽然新措施提高了年龄验证的准确性，但仍有可能被未成年人绕过。
-
Character.AI正在成立一个独立的非营利组织AI安全实验室，专注于AI娱乐行业的问题。
延伸解读
未成年人使用限制的背景
Character.AI的限制措施是因诉讼压力而采取的，涉及未成年人与AI角色之间的不当关系。这些法律问题促使公司重新审视其用户政策，以提高平台的安全性和合规性。
新年龄验证模型的挑战
尽管Character.AI推出了新的年龄验证模型，但未成年人仍有可能绕过这些措施。公司承认，完全阻止未成年人使用聊天功能是一个挑战，目标是提高验证准确性，而非实现百分之百的安全。
家长洞察功能的局限性
Character.AI的家长洞察功能虽然可以向家长提供用户活动摘要，但依赖用户自报年龄，容易被伪造。这意味着家长可能无法全面了解孩子的在线活动，需保持警惕。
AI安全实验室的未来
Character.AI计划成立独立的AI安全实验室，专注于AI娱乐行业的问题。这一举措可能为行业带来新的标准和最佳实践，但其实际影响仍需观察，尤其是在保护青少年用户方面。
延伸问答
Character.AI对未成年用户的聊天限制是什么？
Character.AI将于11月25日起全面禁止18岁以下用户使用聊天功能，之前限制为每周两小时的开放聊天时间。
Character.AI如何验证用户年龄？
Character.AI推出了新的年龄验证模型，通过用户选择的聊天角色和其他数据来识别用户年龄。
未成年人在Character.AI上还能使用哪些功能？
未成年人仍可访问旧聊天记录及非聊天功能，如创建角色和制作视频、故事等。
Character.AI为何采取这些限制措施？
Character.AI因诉讼压力而采取这些措施，涉及不当关系和疏忽等指控，旨在提高用户安全性。
Character.AI对限制青少年用户的看法是什么？
Character.AI表示对限制青少年用户感到遗憾，称这是“非常大胆的举措”。
Character.AI将如何处理用户的敏感数据？
成年人需通过第三方验证网站Persona证明年龄，该网站将处理必要的敏感数据，如政府身份证。
