OpenAI
·
引入超级对齐
💡
原文英文，约200词，阅读约需1分钟。
📝
内容提要
超级智能是人类历史上最具影响力的技术，但也存在巨大的风险。我们需要新的治理机构和方法来管理这些风险。目前的对齐技术无法适用于超级智能，我们需要新的科学和技术突破。
🎯
关键要点
- 超级智能是人类历史上最具影响力的技术，能够帮助解决许多重要问题。
- 超级智能的巨大力量也可能带来危险，导致人类失去权力甚至灭绝。
- 超级智能可能在本十年内到来。
- 管理超级智能的风险需要新的治理机构和方法。
- 当前的对齐技术无法有效控制超级智能，无法确保其遵循人类意图。
- 现有的对齐技术依赖于人类监督，但人类无法可靠地监督比我们更聪明的AI。
- 我们需要新的科学和技术突破来应对超级智能的挑战。
➡️
