苦涩教训的终点在哪里
原文英文,约600词,阅读约需3分钟。发表于: 。Humanity only has one engineering project, building better engineers than humans. After that, the thing we built can do the engineering.
人类只有一个工程项目,就是建造比人类更好的工程师。推特上传播的视频展示了关于象棋引擎中的主教人和自动驾驶汽车中的锥体人的工程想法,看起来越来越荒谬。人类的DNA中没有交通锥的参考,所以代码库中不应该有关于交通锥的参考。通用方法的巨大威力是从苦涩的教训中学到的,搜索和学习是两种任意扩展的方法。进化是一个搜索和优化过程,为什么不进化一个驾驶代理?种子AI的概念非常吸引人,构建一个最小可行的自我改进AI,并允许它自我启动,达到超越人类的水平。目标是构建一个超人类的东西,与自动驾驶汽车不同,如果构建火车驾驶代理,需要考虑更多因素。