在大型语言模型推理中平衡理性偏差和认知偏见：并非所有偏见均不好
内容提要
本文介绍了BiasBuster框架，旨在识别和减轻大型语言模型中的认知偏见。研究开发了包含16,800个提示的数据集，测试了多种去偏策略，并提出了一种自助去偏方法。评估19个主要模型后发现，它们在金融合理性方面存在不同程度的非理性，强调了大型语言模型在金融应用中的优势与弱点，以及人类认知偏见对模型的影响。
延伸解读
理性偏差与认知偏见的平衡
文章指出，大型语言模型在推理中表现出类似人类的偏见和不合理行为，但这些行为与人类不同，且存在额外的回答不一致性。研究强调，并非所有偏见都是负面的，人类认知偏见有时具有理性基础。这提示我们，在评估和减轻模型偏见时，需区分非理性偏差与适应性理性，避免过度去偏导致模型失去有价值的启发式判断。
BiasBuster框架与自助去偏方法
BiasBuster框架基于心理学和认知科学的前期研究，构建了包含16,800个提示的数据集，用于测试多种去偏策略。其提出的自助去偏方法利用大型语言模型自身来去偏其提示，无需为每种偏见类型手动制作示例。这种方法提高了去偏效率，但文章未说明其在不同模型或领域中的泛化能力，实际应用时需注意其局限性。
金融偏见指标与模型非理性
研究引入金融偏见指标（FBI）评估大型语言模型的金融合理性，发现19个主要模型存在不同程度的金融非理性，受设计和训练影响。这表明模型在金融分析中可能产生非理性偏见，影响决策可靠性。开发金融应用时，需结合行为金融学原则，对模型输出进行审慎校准，不能完全依赖其判断。
社会偏见与标签偏倚的缓解策略
文章综述了社会偏见评估和缓解技术，并指出大型视觉-语言模型生成的内容存在显著偏见，主要受底层语言模型影响而非输入图像。为此，提出了无需训练的事后去偏和去偏抽样策略。同时，针对少样本提示中的标签偏倚，提出新型校准方法，优于近期方法。这些策略有助于提升模型公平性和可靠性，但需注意不同解码配置下的不稳定性。
Q&A
BiasBuster框架的主要目标是什么？
BiasBuster框架旨在发现、评估和减轻大型语言模型中的认知偏见。
研究中使用了多少个提示的数据集来测试去偏策略？
研究开发了一个包含16,800个提示的数据集。
金融偏见指标（FBI）在研究中有什么作用？
金融偏见指标（FBI）用于评估大型语言模型的金融合理性，分析其对金融信息的辨识能力。
如何有效减轻大型语言模型中的认知偏见？
提出了一种自助去偏方法，能够有效减轻认知偏见，无需手动制作示例。
大型语言模型中存在哪些类型的偏见？
存在认知偏见、社会偏见和价值偏差等多种类型的偏见。
研究对大型视觉-语言模型的偏见有什么发现？
调查发现生成的内容存在显著偏见，主要受到底层大型语言模型的影响。
