the singularity is nearer
·
苦涩教训的终点在哪里
💡
原文英文，约600词，阅读约需3分钟。
📝
内容提要
人类只有一个工程项目，就是建造比人类更好的工程师。推特上传播的视频展示了关于象棋引擎中的主教人和自动驾驶汽车中的锥体人的工程想法，看起来越来越荒谬。人类的DNA中没有交通锥的参考，所以代码库中不应该有关于交通锥的参考。通用方法的巨大威力是从苦涩的教训中学到的，搜索和学习是两种任意扩展的方法。进化是一个搜索和优化过程，为什么不进化一个驾驶代理？种子AI的概念非常吸引人，构建一个最小可行的自我改进AI，并允许它自我启动，达到超越人类的水平。目标是构建一个超人类的东西，与自动驾驶汽车不同，如果构建火车驾驶代理，需要考虑更多因素。
🎯
关键要点
- 人类的工程项目是建造比人类更好的工程师。
- 推特上关于象棋引擎和自动驾驶汽车的工程想法显得越来越荒谬。
- 人类的DNA中没有交通锥的参考，代码库中也不应有交通锥的参考。
- 通用方法的强大在于其能够随着计算能力的增加而扩展，搜索和学习是两种有效的方法。
- 进化是一个搜索和优化的过程，为什么不进化一个驾驶代理？
- 种子AI的概念吸引人，构建一个最小可行的自我改进AI并允许其自我启动。
- 目标是构建一个超人类的东西，而不是超越人类。
- 构建火车驾驶代理时，学习像人类一样可能不是最佳选择。
- 构建无线电的方式可以通过复制已有的工作实例来实现，而不是从零开始。
- 人脑的许多部分可以用今天的技术构建，尽管它们是一些黑客的组合。
- 在自动驾驶汽车中，学习交通锥的方式比硬编码更有效。
- 我们只是想构建仿制人类，而不是解决生命的本质问题。
❓
延伸问答
人类的主要工程项目是什么？
人类的主要工程项目是建造比人类更好的工程师。
为什么在自动驾驶汽车中学习交通锥的方式比硬编码更有效？
因为自动驾驶汽车通过数据学习交通锥，而不是依赖于人类DNA中的硬编码参考。
什么是种子AI，它的目标是什么？
种子AI是构建一个最小可行的自我改进AI，目标是让其自我启动并达到超人类水平。
进化过程在人工智能开发中有什么意义？
进化是一个搜索和优化的过程，可以用于开发更有效的驾驶代理。
构建无线电的最佳方法是什么？
最佳方法是复制已有的工作实例，而不是从零开始。
人类大脑的哪些部分可以用今天的技术构建？
许多人脑的部分，如新皮层、海马体和基底神经节，已经可以用今天的技术构建。
➡️
