更多即是更多：大型语言模型中的加法偏见
内容提要
本文综述了大型语言模型（LLMs）中的社会偏见评估与缓解技术，探讨了偏见的概念、评估指标及干预方法。研究表明，LLMs在输出中存在显著偏见，影响其作为评估器的可靠性。通过控制实验，分析了偏见对选择行为的影响，并提出设计无偏LLMs应用的建议。研究强调了偏见的复杂性及其对模型性能的影响，呼吁未来研究关注偏见的缓解策略。
延伸解读
偏见评估的可靠性挑战
文章指出，大型语言模型作为自动评估器时存在显著偏见，平均40%的评估表现出偏见迹象，且与人类偏好的Rank-Biased Overlap得分仅为49.6%。这意味着依赖LLM进行自动评估可能无法准确反映人类判断，尤其在需要与人类偏好对齐的任务中，其可靠性存疑。
提示敏感性与偏见波动
研究发现LLM对提示变化高度敏感，微小的提示改变就能显著影响任务表现和社会偏见的表达。例如，同质性偏差在不同情境线索和写作提示下高度不稳定。这提示实践者在使用LLM时需谨慎设计提示，并考虑使用多样化提示来全面评估偏见。
自我偏见与优化悖论
自我偏见普遍存在于语言模型中，即模型偏爱自身生成的内容。虽然自我优化流程能提升输出流畅度，但会进一步放大自我偏见。不过，更大的模型规模和准确的外部反馈可以显著减少这种偏见，从而在下游任务中实现实际性能提升。
偏见缓解的实践方向
文章提出了一些缓解策略，如分离守卫栏步骤与列表抽样步骤可消除选择任务中的偏见，以及通过启发式调节和弃权选项使决策更符合人类推理。这些方法为设计无偏LLM应用提供了具体指导，但需注意偏见结构的复杂性，定制化去偏方法可能更有效。
Q&A
大型语言模型中的社会偏见是如何影响其评估能力的？
大型语言模型在输出中存在显著的社会偏见，这影响了它们作为评估器的可靠性，导致评估结果的不一致性。
如何评估大型语言模型中的偏见？
可以通过认知偏差基准（CoBBLEr）来评估大型语言模型输出中的偏见，衡量不同类型的认知偏差。
大型语言模型的自我偏见是什么？
自我偏见是指语言模型倾向于偏爱其自身生成的内容，这种偏见在多种语言和任务中普遍存在。
如何减轻大型语言模型中的偏见？
可以通过增加模型规模和提供准确的外部反馈来显著减少自我优化过程中的偏见，从而提升模型在下游任务中的表现。
大型语言模型对提示变化的敏感性如何影响其表现？
大型语言模型对提示变化高度敏感，这可能导致任务表现和社会偏见的波动，影响模型的排名。
同质性偏差在大型语言模型中是如何表现的？
同质性偏差指模型倾向于将某些群体的表示与其他群体同质化，这种偏差在不同提示下表现出高度不稳定性。
