大型语言模型中的 (非) 理性和认知偏差
内容提要
多项研究比较大语言模型与人类推理，发现早期模型有类似人类的启发式错误，新版则趋于避免。模型在演绎、算术和抽象推理上表现有限，且偏见独特。研究提出逻辑训练、两阶段解释生成和反思机制等方法提升推理一致性与可信度。
延伸解读
模型版本差异：从人类式偏见到超理性
文章指出，早期大型语言模型在推理时表现出类似人类的启发式错误和认知偏差，但最新版本（如ChatGPT和GPT-4）几乎完全避免了这些错误，甚至表现出超理性的决策方式。这种差异提示我们，不能简单地将旧模型的研究结论推广到新模型，评估模型认知特性时需明确其版本和训练背景。
推理局限与独特偏见
多项研究表明，大型语言模型在演绎、算术和抽象推理任务上表现有限，且其推理偏见与人类并不一致。例如，在算术问题中，模型在文本理解和规划阶段表现出类似儿童的偏差，但在执行阶段却没有；在演绎推理中，模型对格式和内容的敏感性与人类不同。这说明模型的错误模式是独特的，不能直接类比人类认知。
提升推理能力的策略与挑战
为改善推理一致性和可信度，研究者提出了逻辑训练、两阶段解释生成和反思机制（如REFLEX）等方法。逻辑训练通过构建数据集增强模型逻辑推理能力；两阶段流程先审查预测再生成解释，以提高解释可靠性；反思机制则通过信念图和约束推理减少答案不一致。然而，人类和机器对相同提示方案的反应并不相同，策略设计需考虑这种差异。
Q&A
大型语言模型在推理时会出现类似人类的认知偏差吗？
早期的大型语言模型（如GPT-3）表现出类似人类的启发式推理错误和认知偏差，但更新的模型（如ChatGPT和GPT-4）学会了避免这些错误，表现出超理性的方式。
大型语言模型在演绎推理任务上的表现如何？
大型语言模型在解决经典演绎推理问题时能力有限，改变展示格式和内容虽能引起绩效差异，但总体性能并未提高，且其推理偏见与人类不同。
如何提升大型语言模型的逻辑推理能力？
可以通过逻辑训练赋予大型语言模型逻辑推理能力，例如构建综合数据集（LMM-LR）进行预训练，从而在不同场景中生成更符合逻辑的答案。
大型语言模型在算术问题上是否表现出与儿童类似的认知偏差？
是的，LLMs在解决算术问题时，在文本理解和解决方案规划步骤中表现出类似人类的偏差，但在解决方案执行过程中没有类似的偏差。
大型语言模型在抽象推理任务上的表现如何？
最新的Large Language Models在抽象推理任务上的表现非常有限，远不如在其他自然语言处理任务上的表现，为此研究者提出了新的基准来评估抽象推理任务。
REFLEX方法如何提高大型语言模型的一致性？
REFLEX方法通过在大型语言模型中添加一个反思层次，构建信念图并使用形式化的约束推理器，减少答案与其他“信念”的依赖关系和不一致性，从而改善一致性，同时不降低答案准确性。
