语言模型表达自我和他人的信念
内容提要
本文综述大语言模型心智理论（ToM）研究。SymbolicToM通过符号表示跟踪信念状态，提升ToMi基准表现；GPT系列微调模型在意图与信念理解上优于其他模型及儿童，基础模型难以完成ToM任务；BigToM、ToMBench等新基准显示GPT-4具类人推理但不稳定；语言统计学习可部分解释ToM发展，多智能体协作中LLM展现高级推理但规划受限。
延伸解读
心智理论评估的多样性
文章介绍了多个评估大语言模型心智理论（ToM）能力的基准，如ToMi、BigToM和ToMBench。这些基准从不同角度测试模型对信念、意图等心理状态的理解。例如，SymbolicToM在ToMi上表现提升，而BigToM显示GPT-4具有类人推理但不稳定。这表明ToM评估并非单一维度，读者需注意不同基准的侧重点和局限性，避免以单一测试结果概括模型整体能力。
模型表现与人类儿童的对比
研究发现，经过指令调整的GPT系列模型在理解意图和信念方面优于其他模型和儿童，而基础模型大多无法解决心智理论任务。这一对比揭示了指令调整对模型认知能力的提升作用，可能源于训练中考虑了对话者和语境的合作性交流。然而，这并不意味着模型全面超越人类，因为模型在不变性等方面仍存在缺陷，且表现不稳定。
语言统计学习与心智理论发展
文章提到，语言的统计学习能够部分解释人类心智理论的发展，但其他机制也起重要作用。例如，GPT-3尽管暴露于更多语言环境，其表现并不能完全解释人类行为。这表明，单纯的语言暴露不足以完全复制人类心智理论，可能还需要社会互动、具身认知等因素。对于AI研究，这提示需结合多机制来提升模型的社会推理能力。
多智能体协作中的规划局限
在多智能体协作文本游戏中，基于大语言模型的智能体展现出紧密合作和高级理论推理能力，但在管理长期视野环境和任务状态幻觉方面存在规划优化限制。通过引入显式信念状态表示，可以改善任务表现和推理准确性。这指出了当前LLM在复杂动态环境中的不足，以及符号表示与神经网络结合的可能方向。
Q&A
SymbolicToM是什么？它有什么作用？
SymbolicToM是一种通过显式符号表示来跟踪阅读理解任务中多个角色的信念状态、对他角色信念状态的估计以及更高级别推理的方法。它在ToMi基准测试中显著提升了理解能力。
大型语言模型在理解意图和信念方面表现如何？
GPT系列的指令调整模型在理解意图和信念（即心智理论）方面表现优于其他模型和儿童。基础模型大多无法解决心智理论任务，即使有专门的提示。
BigToM基准测试发现了什么？
BigToM是一个新的社交推理基准，用于评估大型语言模型的社交推理能力。研究发现GPT-4具有反映人类推理模式的理论思维能力，但不够可靠，而其他LLM则表现较差。
语言统计学习能解释心智理论的发展吗？
语言的统计学学习能够部分解释人类认知发展中心智理论的发展，但其他机制也起到重要作用。因为最先进的语言模型GPT-3尽管暴露于更多语言环境，其表现并不能完全解释人类行为。
大型语言模型在多智能体协作中表现出哪些心智理论能力？
基于大型语言模型的智能体在多智能体协作文本游戏中表现出紧密合作行为和高级理论推理能力，但也存在在管理长期视野环境和任务状态幻觉方面的规划优化限制。通过利用显式信念状态表示可以减轻这些问题，改善任务表现和理论推理准确性。
语言模型在解决伪信念问题上的表现如何演变？
自2020年发布的GPT-3版本以来，语言模型在解决伪信念问题上的表现已经逐渐逼近人类的表现水平。
