/cdn.vox-cdn.com/uploads/chorus_asset/file/24390408/STK149_AI_01.jpg)
The Verge
·
因安全问题辞职的OpenAI研究员加入Anthropic
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
OpenAI研究员Jan Leike加入竞争对手Anthropic，致力于监督、泛化和对齐研究。Anthropic旨在与OpenAI形成对比，注重谨慎进展。Leike的转变并不令人意外，因为他之前对OpenAI过于关注商业利益表示担忧。Anthropic将道德原则融入AI训练，并收集公众意见。
🎯
关键要点
- Jan Leike，OpenAI的关键研究员，因安全问题辞职，加入竞争对手Anthropic。
- Anthropic致力于谨慎进展，作为OpenAI的对立面，是一家公共利益公司。
- Leike对OpenAI过于关注商业利益表示担忧，认为其偏离了开发更安全、更道德AI的使命。
- Leike强调需要认真对待AGI的影响，确保其惠及全人类。
- Leike曾在OpenAI的“超级对齐”团队工作，确保智能系统符合人类价值观。
- Anthropic采用“宪法AI”，通过公众意见和人权宣言等来源将伦理原则融入AI模型的训练。
❓
延伸问答
Jan Leike为什么辞职并加入Anthropic？
Jan Leike因安全问题辞职，认为OpenAI过于关注商业利益，偏离了开发更安全、更道德AI的使命。
Anthropic与OpenAI有什么不同之处？
Anthropic是一家公共利益公司，致力于谨慎进展，而OpenAI则被认为过于关注商业利益。
Leike在OpenAI的工作经历是什么？
Leike曾在OpenAI的“超级对齐”团队工作，负责确保智能系统符合人类价值观。
Anthropic如何将伦理原则融入AI训练？
Anthropic采用“宪法AI”，通过公众意见和人权宣言等来源将伦理原则融入AI模型的训练。
Leike对AGI的看法是什么？
Leike强调需要认真对待AGI的影响，确保其惠及全人类。
Leike加入Anthropic后将专注于哪些研究领域？
Leike将在Anthropic专注于可扩展监督、弱到强的泛化和自动对齐研究。
➡️
