什么是world models/世界模型
内容提要
本文讨论了世界模型和Sora之间的关系。世界模型是AI领域中描述智能体对环境的内部表示和模拟的概念。Sora被称为“世界模拟器”，但实际上更像是一个视频工具，而不是一个能够准确回答反事实推理问题的工具。文章指出Sora并没有准确学习到物理规律。作者认为简单地堆砌数据并不是通向更高级智能技术的道路。
延伸解读
世界模型与强化学习的渊源
文章指出，世界模型最早出现在机器人领域，与强化学习中的model-based RL中的model是同一概念。Jurgen 2018年的论文将世界模型结构化为状态表征（VAE）和转移模型（RNN），并强调动作输入的重要性。这解释了世界模型并非普通的序列预测，而是为决策服务的环境模拟器。
反事实推理：世界模型的核心能力
文章强调，世界模型的核心作用是反事实推理，即回答“what if”问题。这对应Judea Pearl因果阶梯的最高层，超越关联和干预。如果世界模型足够准确，智能体可以在其中反复试错，找到现实最优决策，从而大幅提升AI决策能力，实现全自动驾驶等应用。
Sora作为世界模拟器的局限
尽管OpenAI称Sora为“world simulator”，但文章认为Sora更像视频工具，难以准确操控，无法作为反事实推理工具。其生成的视频不符合物理规律，且不清楚demo与训练数据的差异。作者指出，简单堆砌数据并非通向更高级智能技术的道路。
Q&A
什么是世界模型（World Model）？
世界模型是AI领域中描述智能体对环境的内部表示和模拟的概念，主要包含状态表征和转移模型，对应认知科学中的mental representations和mental simulation。
世界模型的核心作用是什么？
世界模型的核心作用是反事实推理，即能够回答“what if”问题，对于数据中没有见过的决策，也能在模型中推理出结果，从而提升决策能力。
Sora被称为“世界模拟器”，它真的是世界模型吗？
Sora更像是一个视频工具，而不是真正的世界模型。它难以进行准确操控，无法作为反事实推理工具去准确回答what if问题，也没有准确学习到物理规律。
世界模型和model-based RL中的model有什么区别？
没有区别，就是同一个东西。世界模型最早出现在强化学习领域，model-based RL中的model即世界模型，用于预测动作执行的结果。
为什么说简单堆砌数据不是通向更高级智能技术的道路？
因为Sora即使基于非常充足的训练数据，甚至包括CG生成的数据，仍然没有掌握用几个变量方程就能描述的物理规律，说明仅靠数据堆砌无法实现真正的世界模型。
世界模型在决策中有什么重要性？
如果能获得准确的world model，就可以在模型中反复试错，找到现实最优决策，从而大幅提升AI决策能力，实现全自动驾驶等场景应用。
