在大型语言模型推理中平衡理性偏差和认知偏见：并非所有偏见均不好

BiasBuster框架旨在发现、评估和减轻大型语言模型中的认知偏见。

研究开发了包含16,800个提示的数据集，测试了多种去偏策略。

提出了一种自助去偏方法，能够有效减轻认知偏见，无需手动制作示例。

引入金融偏见指标（FBI）来评估大型语言模型的金融合理性，发现模型之间存在不同程度的金融非理性。

讨论了人类认知偏见的理性及非代表性数据对模型偏见的影响。

评估了大型语言模型中的社会偏见，介绍了评估指标和干预方法的分类。

研究发现大型语言模型的非故意回应存在价值偏差，影响相关应用场景选择。

提出了一种新型标签偏倚校准方法，优于最近的校准方法，强调标签偏倚对模型可靠性的影响。

调查发现大型视觉-语言模型生成的内容存在显著偏见，提出了校准和去偏抽样策略来纠正这些偏见。

全面回顾了大语言模型中的公平性研究，讨论了评估指标和去偏方法的挑战与未来方向。