量子位
·
他同时参与创办OpenAI/DeepMind，还写了哈利波特同人小说
💡
原文中文，约2800字，阅读约需7分钟。
📝
内容提要
Eliezer Yudkowsky，OpenAI和DeepMind的创始人之一，警告人工智能可能对人类构成威胁。他指出，AI的智能提升不等于友好，可能导致不可控的超级智能。他的观点在硅谷引发了广泛争议。
🎯
关键要点
- Eliezer Yudkowsky警告人工智能可能对人类构成威胁，认为AI的智能提升不等于友好。
- Yudkowsky是OpenAI和DeepMind的创始人之一，同时也是著名的哈利波特同人小说作者。
- 他认为创建对人类友好的人工智能非常困难，主要原因包括智力与仁慈不等同、工具性融合和情报爆炸。
- Yudkowsky致力于研究先进人工智能的风险，并在硅谷成为警告AI风险的“传教士”。
- 他认为人类注定要灭亡，呼吁人们接受这一命运，而不是试图让AI与人类价值观保持一致。
- Yudkowsky的观点在硅谷引发争议，AI教父Hinton批评他的主张过于偏颇，但他仍然影响了许多科技巨头。
- 他在硅谷理性主义的引领方面也有贡献，尤其是通过他的同人小说《哈利·波特与理性之道》。
- Yudkowsky认为许多科技公司在构建AI模型时并不清楚其内部运作逻辑，可能导致人类被边缘化。
- 他呼吁关闭追求超级智能的科技公司，认为它们本质上没有区别，且都存在风险。
- Yudkowsky不再精确预测超级人工智能的开发时间，强调人类正在忽略真正的风险。
❓
延伸问答
Eliezer Yudkowsky对人工智能的看法是什么？
Yudkowsky警告人工智能可能对人类构成威胁，认为AI的智能提升不等于友好，可能导致不可控的超级智能。
Yudkowsky在硅谷的影响力如何？
Yudkowsky在硅谷被视为AI风险的警告者，影响了许多科技巨头，包括马斯克和OpenAI的创始人。
Yudkowsky认为创建友好的人工智能有哪些困难？
他认为主要困难在于智力与仁慈不等同、工具性融合和情报爆炸。
Yudkowsky的同人小说有什么特别之处？
他的同人小说《哈利·波特与理性之道》通过科学和理性重构魔法世界，影响了硅谷的理性主义者。
Yudkowsky对科技公司追求超级智能的看法是什么？
他认为所有追求超级智能的科技公司都应该被关闭，因为它们本质上没有区别，存在风险。
Yudkowsky对人类未来的看法是什么？
他认为人类注定要灭亡，呼吁人们接受这一命运，而不是试图让AI与人类价值观保持一致。
➡️
