/cdn.vox-cdn.com/uploads/chorus_asset/file/24390408/STK149_AI_01.jpg)
The Verge
·
因安全问题辞职的OpenAI研究员加入Anthropic
💡
原文英文，约300词，阅读约需1分钟。
📝
内容提要
OpenAI研究员Jan Leike加入竞争对手Anthropic，致力于监督、泛化和对齐研究。Anthropic旨在与OpenAI形成对比，注重谨慎进展。Leike的转变并不令人意外，因为他之前对OpenAI过于关注商业利益表示担忧。Anthropic将道德原则融入AI训练，并收集公众意见。
🎯
关键要点
- Jan Leike，OpenAI的关键研究员，因安全问题辞职，加入竞争对手Anthropic。
- Anthropic致力于谨慎进展，作为OpenAI的对立面，是一家公共利益公司。
- Leike对OpenAI过于关注商业利益表示担忧，认为其偏离了开发更安全、更道德AI的使命。
- Leike强调需要认真对待AGI的影响，确保其惠及全人类。
- Leike曾在OpenAI的“超级对齐”团队工作，确保智能系统符合人类价值观。
- Anthropic采用“宪法AI”，通过公众意见和人权宣言等来源将伦理原则融入AI模型的训练。
➡️
