/cdn.vox-cdn.com/uploads/chorus_asset/file/24390406/STK149_AI_03.jpg)
The Verge
·
OpenAI研究员辞职，称安全已被“引人注目的产品”所忽视
💡
原文英文，约300词，阅读约需2分钟。
📝
内容提要
OpenAI研究员Jan Leike因忽视安全文化和流程而辞职，专注于开发引人注目的产品。OpenAI解散了专注于解决长期AI风险的超级对齐团队。John Schulman将接替Leike的职责。随着OpenAI研究人员在开发AI的同时对潜在危险表示担忧，紧张局势加剧。Leike的团队缺乏进行关键工作的资源。
🎯
关键要点
- OpenAI研究员Jan Leike因安全文化和流程被忽视而辞职，专注于开发引人注目的产品。
- OpenAI解散了专注于解决长期AI风险的超级对齐团队，Leike曾负责该团队。
- Leike表示，OpenAI需要认真对待AGI的影响，并优先准备应对这些影响。
- John Schulman将接替Leike的职责，Sutskever已于周二宣布离职。
- Leike的辞职反映了OpenAI内部日益紧张的局势，研究人员对开发超级智能AI的潜在危险表示担忧。
- Leike的团队缺乏进行关键工作的资源，无法获得必要的计算和其他资源。
❓
延伸问答
Jan Leike辞职的主要原因是什么？
Jan Leike辞职是因为安全文化和流程被忽视，过于专注于开发引人注目的产品。
OpenAI解散了哪个团队？
OpenAI解散了专注于解决长期AI风险的超级对齐团队。
Leike对AGI的看法是什么？
Leike认为需要认真对待AGI的影响，并优先准备应对这些影响。
谁将接替Jan Leike的职责？
John Schulman将接替Jan Leike的职责。
Leike的团队面临什么样的资源问题？
Leike的团队缺乏进行关键工作的资源，无法获得必要的计算和其他资源。
Leike的辞职反映了OpenAI内部的什么情况？
Leike的辞职反映了OpenAI内部日益紧张的局势，研究人员对开发超级智能AI的潜在危险表示担忧。
➡️
