/cdn.vox-cdn.com/uploads/chorus_asset/file/25263502/STK_414_AI_B.jpg)
The Verge
·
前OpenAI员工称AI安全领域的举报者保护措施不足
💡
原文英文，约400词，阅读约需2分钟。
📝
内容提要
前OpenAI员工发出公开信，警告AI公司压制批评和监督，呼吁公开批评原则。信中提出的原则包括避免制定非贬低条款，提供匿名报告问题的途径，允许员工向公众提出关切，并不对举报者采取报复行动。信中签署者声称当前的举报者保护不足够。
🎯
关键要点
- 前OpenAI员工发出公开信，警告AI公司压制批评和监督。
- 信中呼吁AI公司遵循公开批评原则，避免制定非贬低条款。
- 建议提供匿名报告问题的途径，允许员工向公众提出关切。
- 信中指出当前的举报者保护不足，主要关注非法活动而非未受监管的担忧。
- 信中提到AI的潜在风险，包括不平等加剧、操控和错误信息，以及人类灭绝的可能性。
- OpenAI最近解散了专注于AI长期风险的“Superalignment”团队，导致多名研究人员辞职。
- 前研究员表示，OpenAI的安全文化和流程被光鲜产品所取代。
➡️
