OpenAI前安全团队负责人Jan Leike跳槽到Anthropic继续超级对齐研究,引发了对OpenAI AI安全承诺的质疑。Jan Leike将致力于可扩展的监督、泛化和自动对齐研究。Anthropic希望开发一种能够拒绝99%以上用户请求的模型。
OpenAI研究员Jan Leike加入竞争对手Anthropic,致力于监督、泛化和对齐研究。Anthropic旨在与OpenAI形成对比,注重谨慎进展。Leike的转变并不令人意外,因为他之前对OpenAI过于关注商业利益表示担忧。Anthropic将道德原则融入AI训练,并收集公众意见。
OpenAI研究员Jan Leike因忽视安全文化和流程而辞职,专注于开发引人注目的产品。OpenAI解散了专注于解决长期AI风险的超级对齐团队。John Schulman将接替Leike的职责。随着OpenAI研究人员在开发AI的同时对潜在危险表示担忧,紧张局势加剧。Leike的团队缺乏进行关键工作的资源。
完成下面两步后,将自动完成登录并继续当前操作。