尽管生成性人工智能的输出令人印象深刻，但它对世界并没有连贯的理解
原文英文，约1100词，阅读约需4分钟。
📝
内容提要
大型语言模型在文本生成方面表现优异，但新研究显示它们并未真正理解世界。尽管模型能准确导航纽约市，但在环境变化时表现显著下降。研究者提出新的评估指标，发现随机选择的模型反而构建了更准确的世界模型。这表明当前模型在某些任务上表现良好，但缺乏对规则的理解，未来需探索更复杂的问题。
🔎
延伸解读
生成性人工智能的局限性
尽管大型语言模型在特定任务上表现出色，但研究表明它们缺乏对环境变化的适应能力。这意味着在实际应用中，模型可能在面对新情况时表现不佳，用户需谨慎依赖其输出。
新评估指标的意义
研究者提出的序列区分和序列压缩指标为评估模型的世界理解能力提供了新的视角。这些指标能够揭示模型在处理复杂任务时的真实能力，未来可能推动更有效的人工智能系统开发。
随机选择模型的优势
研究发现，随机选择的变换器在构建世界模型方面表现更佳，可能是因为它们接触到了更广泛的可能性。这一发现提示我们在训练模型时，考虑多样性的重要性，以提高其适应性和准确性。
❓
Q&A
大型语言模型是否真正理解世界？
大型语言模型在文本生成方面表现出色，但研究表明它们并未真正理解世界。
研究发现大型语言模型在环境变化时表现如何？
研究发现，当环境发生变化时，模型的表现显著下降。
研究者提出了哪些新评估指标？
研究者提出了序列区分和序列压缩两种新指标来测试模型的世界模型准确性。
随机选择的模型为何能构建更准确的世界模型？
随机选择的模型可能因为在训练中看到更广泛的潜在下一步而形成了更准确的世界模型。
研究者对未来的研究方向有什么计划？
研究者希望探索更复杂的问题，并将评估指标应用于现实世界的科学问题。
大型语言模型在导航任务中的表现如何？
尽管模型能准确导航纽约市，但在面对街道关闭和绕行时，其表现迅速下降。
🏷️
