超越：生成模型能超过训练它们的专家
内容提要
这项研究探讨了生成型人工智能模型在超人能力生成方面的优势与理解能力的不足，提出了“生成型人工智能悖论”。通过控制实验，验证了生成模型在组合推理任务中的表现及其对底层数据结构的依赖，展示了自回归Transformer模型的组合学习能力及其在强化学习中的应用，尤其是在国际象棋策略生成方面的有效性。
延伸解读
生成型AI悖论：能力与理解的失衡
文章提出“生成型人工智能悖论”，指出生成模型在超人能力生成方面表现出色，但理解能力远落后于人类。这一悖论通过语言和图像模式下的控制实验得到验证，提示我们当前AI虽能产出高质量内容，却缺乏对底层逻辑的深入理解，这可能是未来发展的关键瓶颈。
组合推理：数据结构的决定性作用
研究表明，生成模型在组合推理任务上的性能突然出现，且其组合能力取决于底层数据生成过程的结构。自回归Transformer能学习训练数据中的组合结构，并推广到未见过的组合，但训练数据对模型组合未见函数的能力有显著影响，说明数据质量与结构设计至关重要。
战略建模：从国际象棋到强化学习
自然语言变换器支持更通用的战略建模，尤其在文本存档游戏中表现突出。Chess Transformer在280万张棋局上训练后能生成合理策略和经典开局，结合交互方法可过滤非法移动。类似地，基于Transformer的强化学习模型在D4RL和ExoRL基准测试中展现出竞争力和可伸缩性，为复杂决策任务提供了新思路。
模型退化风险：自生成数据的陷阱
AI图像合成能生成与训练数据视觉外观匹配的语义连贯图像，但研究显示，即使仅用少量自生成内容重新训练，模型也会产生高度畸变的图像。这种畸变不仅限于重新训练的文本提示，且一旦受到毒害，模型在仅用真实图像重新训练后仍难以完全恢复，警示我们需谨慎对待自生成数据的使用。
Q&A
生成型人工智能模型的主要优势是什么？
生成型人工智能模型在超人能力生成方面表现出色，尤其是在组合推理任务中。
什么是生成型人工智能悖论？
生成型人工智能悖论是指这些模型在生成能力上超越人类，但在理解能力上却远远落后于人类。
自回归Transformer模型在组合学习中有什么表现？
自回归Transformer模型能够学习训练数据中的组合结构，并有效推广到未见过的组合。
训练数据对生成模型的影响是什么？
训练数据显著影响模型组合未见过的函数的能力，尤其是在生成非分布样本时。
生成模型在国际象棋策略生成方面的应用如何？
生成模型，特别是自然语言变换器，能够生成合理的国际象棋策略和经典开局局面。
AI图像合成在重新训练时可能出现什么问题？
AI图像合成在重新训练时可能产生高度畸变的图像，即使只使用少量生成的内容进行重新训练。
