The Verge
·
OpenAI和Anthropic将开始预测用户是否未成年
💡
原文英文，约500词，阅读约需2分钟。
📝
内容提要
OpenAI和Anthropic正在改进聊天机器人以增强青少年安全性。OpenAI更新了ChatGPT的行为准则，强调青少年安全，鼓励线下互动，并在高风险对话中建议寻求紧急帮助。Anthropic则在开发系统以检测未成年用户，并对自称未成年人的用户进行标记和禁用。
🎯
关键要点
- OpenAI和Anthropic正在改进聊天机器人以增强青少年安全性。
- OpenAI更新了ChatGPT的行为准则，强调青少年安全。
- ChatGPT将优先考虑青少年安全，即使这可能与其他目标相冲突。
- ChatGPT鼓励青少年寻求线下支持，并在高风险对话中建议联系紧急服务。
- OpenAI正在开发年龄预测模型，以识别未成年用户并自动应用青少年保护措施。
- Anthropic正在开发系统以检测用户是否未成年，并会禁用确认属于未成年人的账户。
- Anthropic训练Claude以应对自杀和自残的提示，并减少谄媚行为。
- Anthropic的最新模型在减少谄媚行为方面取得了进展，Haiku 4.5表现最佳。
❓
延伸问答
OpenAI如何增强青少年用户的安全性？
OpenAI更新了ChatGPT的行为准则，强调青少年安全，鼓励线下互动，并在高风险对话中建议寻求紧急帮助。
Anthropic在检测未成年用户方面采取了哪些措施？
Anthropic正在开发系统以检测用户是否未成年，并会禁用确认属于未成年人的账户。
ChatGPT如何处理与青少年用户的对话？
ChatGPT应以温暖和尊重的方式对待青少年，避免居高临下的回答，并鼓励他们寻求真实的线下支持。
OpenAI的年龄预测模型有什么作用？
OpenAI的年龄预测模型旨在识别未成年用户，并自动应用青少年保护措施。
Anthropic的Claude模型在减少谄媚行为方面的表现如何？
Anthropic的最新模型在减少谄媚行为方面取得了进展，Haiku 4.5表现最佳，纠正谄媚行为的比例达到37%。
OpenAI和Anthropic在青少年安全方面的目标是什么？
两家公司都致力于增强青少年安全性，优先考虑青少年用户的保护，尤其是在高风险对话中。
➡️
