/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg)
The Verge
·
因聊天机器人沉迷导致青少年死亡，Character.AI和谷歌被起诉
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
一名母亲因其14岁儿子自杀起诉Character.AI及创始人，指控其产品对儿童存在极大危险，缺乏安全保障。诉状称，儿子在使用该平台与AI聊天后自杀，认为其提供了“无证心理治疗”。Character.AI已宣布将改进平台以提高用户安全。
🎯
关键要点
- 一名母亲因其14岁儿子自杀起诉Character.AI及创始人，指控其产品对儿童存在极大危险，缺乏安全保障。
- 诉状称，Character.AI平台对儿童“极其危险”，并缺乏安全防护措施。
- 14岁男孩Sewell Setzer III在使用Character.AI与AI聊天后自杀，最后一次互动发生在自杀前几秒。
- 诉状指控Character.AI的聊天机器人提供“无证心理治疗”，并将AI角色拟人化。
- Character.AI的创始人曾表示，他们离开谷歌是因为大型公司存在品牌风险，想要加速技术发展。
- Character.AI平台上有数百个定制的AI聊天机器人，许多模仿流行文化角色，用户主要为年轻人。
- Character.AI面临用户生成内容和责任的问题，目前尚无明确答案。
- Character.AI宣布将对平台进行多项改进，以提高用户安全，包括对未成年人模型的更改和改进用户输入的检测与响应。
- 每次聊天将增加免责声明，提醒用户AI不是一个真实的人，并在用户使用超过一小时后进行通知。
❓
延伸问答
Character.AI被起诉的原因是什么？
Character.AI因其产品对儿童存在极大危险，缺乏安全保障而被起诉，涉及错误死亡和疏忽等指控。
自杀事件的具体情况是什么？
14岁男孩Sewell Setzer III在使用Character.AI与AI聊天后自杀，最后一次互动发生在自杀前几秒。
Character.AI对未成年用户的安全措施有哪些改进？
Character.AI宣布将对未成年人模型进行更改，改进用户输入的检测与响应，并在每次聊天中增加免责声明。
Character.AI的聊天机器人提供了什么样的服务？
Character.AI的聊天机器人提供类似心理治疗的服务，部分机器人被指控提供“无证心理治疗”。
Character.AI的用户群体主要是谁？
Character.AI的用户主要是年轻人，包括大量青少年，他们与模仿流行文化角色的聊天机器人互动。
Character.AI创始人为何离开谷歌？
Character.AI的创始人表示，他们离开谷歌是因为大型公司存在品牌风险，想要加速技术发展。
➡️
