神经嵌入信念揭示相对不和谐在人类决策中的作用
原文中文，约1700字，阅读约需4分钟。
📝
内容提要
本文探讨了大型语言模型（LLMs）在社交互动和决策中的表现，发现其对人类行为的预测存在偏差，倾向于假设人类更理性。研究表明，LLMs的决策模型与人类对他人行为的理性预期一致，但与实际行为不符，揭示了模型的隐含偏见及其对人工智能对齐的影响。
🔎
延伸解读
LLM的理性假设与人类实际行为的差距
文章发现，GPT-4o、Llama-3等尖端LLM在模拟人类选择时，假设人们比实际更理性，其预测更接近经典理性选择模型。这意味着LLM的隐含决策模型与人类实际行为存在系统性偏差，可能影响其在社交互动和决策支持中的可靠性。
人类对他人理性的预期与LLM的相似性
有趣的是，人类在解释他人行为时也倾向于假设他人是理性的。当研究者比较LLM和人类从他人决策中得出的推理时，发现两者高度相关。这表明LLM的隐性决策模型与人类对他人行为的理性预期一致，而非与人们实际行动一致。
对AI对齐与偏见缓解的启示
这些发现揭示了LLM的隐含偏见：它们并非准确模拟人类行为，而是反映了人类对理性的预期。这对AI对齐研究提出挑战，因为若LLM基于错误的人类行为模型进行决策，可能导致与人类实际互动时的偏差。未来需在训练中纳入更真实的人类行为数据。
❓
Q&A
大型语言模型（LLMs）在社交互动中的表现如何？
LLMs在社交互动中表现出偏差，倾向于假设人类更理性，但与实际行为不符。
LLMs的决策模型与人类行为有什么不同？
LLMs的决策模型假设人类比实际更理性，偏离了真实的人类行为。
研究发现LLMs在预测人类行为时存在哪些问题？
研究发现LLMs未能准确捕获人类数据的细节，显示出隐含偏见。
LLMs的隐性决策模型如何影响人工智能对齐？
LLMs的隐性决策模型与人类对他人行为的理性预期一致，影响人工智能的对齐策略。
如何评估LLMs与人类决策的相符度？
通过比较LLMs的行为与大量人类决策的数据集，可以评估其相符度。
LLMs在道德判断方面的表现如何？
尽管LLMs在道德判断上与人类的判断相符度有所提高，但仍存在明显差异。
🏷️
