在关单中基于心智论评估和增强 LLM 代理：一款多人合作游戏中的不完全信息
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
本研究评估了大型语言模型在多智能体协作文本游戏中的推理能力，发现其在合作和推理方面表现优异，但在长期任务管理上存在局限。通过显式信念状态表示改善了其表现，并探讨了心智理论在合作中的重要性，提出了未来研究方向。
🔎
延伸解读
显式信念状态表示的作用
文章指出，基于大型语言模型的智能体在长期任务管理和状态幻觉方面存在规划优化限制。通过引入显式信念状态表示，可以减轻这些问题，并改善任务表现和理论推理准确性。这表明，在复杂协作环境中，为模型提供明确的心理状态表征有助于提升其推理和规划能力。
心智理论对合作效率的影响
研究使用贝叶斯心理理论，比较了具有心智理论（ToM）的代理与不具备ToM的代理在合作中的表现。结果证明，ToM代理的存在能显著提高所有类型合作伙伴（包括人类玩家）的合作效率。这对于设计更好的合作代理具有重要意义，说明心智理论能力在促进人机协作中扮演关键角色。
LLM心智理论的能力与局限
文章探讨了大型语言模型是否具备心智理论能力，即推理他人心理和情感状态的核心能力。在个体层面，涉及目标规范、对话适应、共情和拟人化；在群体层面，涉及集体调适、合作或竞争以及道德判断。研究识别了这些领域中的机会与风险，并提出了未来研究的关注方向。
❓
Q&A
大型语言模型在多智能体协作文本游戏中的表现如何？
大型语言模型在合作行为和理论推理能力上表现优异，但在长期任务管理上存在局限。
显式信念状态表示如何改善大型语言模型的表现？
显式信念状态表示改善了大型语言模型的任务表现和理论推理准确性。
心智理论在合作中的重要性是什么？
心智理论的存在显著提高了合作效率，尤其是在与人类玩家的互动中。
未来研究的关注领域有哪些？
未来研究应关注在语言学习中结合心智理论的潜在效用。
大型语言模型在个体层面与人类互动的关键领域有哪些？
在个体层面，关键领域包括目标规范、对话适应、共情和拟人化。
如何评估大型语言模型在协作中的能力？
使用可评分的协商游戏作为新的评估框架，展示大型语言模型在协商中的能力和绩效差距。
🏷️
