量子位
·
o1核心作者分享：激励AI自我学习，比试图教会AI每一项任务更重要
💡
原文中文，约2400字，阅读约需6分钟。
📝
内容提要
OpenAI研究科学家Hyung Won Chung在MIT演讲中分享了他的观点，认为激励AI自我学习比教会AI具体任务更重要。他以token预测为例，说明了通过多任务学习来鼓励模型学习通用技能的弱激励结构。他强调模型的可扩展性和算力对加速模型进化至关重要。他认为让AI像人类一样思考是一个误区，机器应该有更多自主性来选择学习方式。此外，他提到训练和推理对模型性能提升作用相似，但推理成本更低。
🎯
关键要点
-
激励AI自我学习比教会AI具体任务更重要。
-
AI领域正处于从直接教授技能转向激励模型自我学习的范式转变。
-
通过多任务学习鼓励模型学习通用技能，而不是单独解决每个任务。
-
算力对加速模型进化至关重要，模型的可扩展性是核心。
-
机器应有更多自主性选择学习方式，而不是被限制在传统的数学结构中。
-
训练和推理对模型性能提升作用相似，但推理成本低得多，便宜1000亿倍。
-
在扩展模型时，需要识别并替换阻碍扩展的假设或限制条件。
➡️
