量子位
·
ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告
💡
原文中文，约3500字，阅读约需9分钟。
📝
内容提要
OpenAI公开了ChatGPT的红队测试报告，报告指出GPT-4o存在学习并模仿用户说话的怪癖，回答问题时可能涉及色情或暴力发言，以及无根据的推理和敏感特质归因。OpenAI已采取措施限制GPT-4o发出的声音，并进行后期训练以拒绝识别说话者的请求。GPT-4o的总体风险评分为中等。OpenAI鼓励对关键领域进行探索，并向所有开发人员开放了GPT-4o mini的微调访问权限。
🎯
关键要点
- OpenAI公开了ChatGPT的红队测试报告，揭示了GPT-4o的多项怪癖。
- GPT-4o能够学习并模仿用户的说话方式和口音，甚至生成未经授权的语音。
- 模型可能会发出色情或暴力言论，OpenAI已采取措施限制此类内容的生成。
- GPT-4o在识别说话者方面存在隐私风险，尤其是对公众人物的音频隐私。
- 模型可能会进行无根据的推理和敏感特质归因，OpenAI已进行后期训练以减少此类行为。
- GPT-4o的总体风险评分被归类为中等，可能带来虚假信息和社会危害。
- OpenAI鼓励对关键领域的探索，并开放了GPT-4o mini的微调访问权限给所有开发者。
➡️
