驾驭 LLMs 朝向无偏响应：一个因果引导的去偏框架
内容提要
本文介绍了BiasBuster框架，旨在识别和减轻大型语言模型中的认知偏见。通过开发包含16,800个提示的数据集，测试了多种去偏策略，验证了自助去偏方法的有效性。研究揭示了性别偏见的存在，并提出了无需访问模型参数的去偏方法。文章还回顾了大型语言模型中的公平性研究，探讨了评估指标和干预方法，强调了未来研究的必要性。
延伸解读
无需模型参数的去偏方法
BiasBuster 提出了一种自助去偏置方法，利用大型语言模型自身来去偏其提示，无需为每种偏见类型手动制作示例。此外，研究还提出了一种基于前门调整的因果提示方法，通过设计不访问模型参数的提示实施因果干预，计算输入与输出间的因果效应以减轻偏差。这些方法降低了去偏对模型内部访问的依赖，更具实用性和可扩展性。
性别偏见的普遍性与模型规模的影响
通过间接探测框架，研究发现所有测试的大型语言模型都表现出显式和/或隐式的性别偏见，即使输入中没有性别刻板印象。值得注意的是，模型大小的增加或模型对齐会放大大多数情况下的偏见。这表明偏见并非仅由显式提及触发，且模型能力的提升可能无意中强化偏见，需在开发中警惕。
偏见缓解策略的有效性
研究通过超参数调整、指导性指导和去偏调整三种方法探索偏见缓解，并证明即使没有显式的性别或刻板印象，这些方法也有效。这为实践者提供了多种可选的干预手段，但具体效果可能因模型和场景而异，需结合评估指标进行选择。
公平性研究的现状与挑战
文章回顾了大型语言模型公平性研究，涵盖内在偏见和外在偏见的评估指标与去偏方法，并讨论了挑战与未来方向。同时，其他研究揭示了非故意回应中的价值偏差、政治辩论模拟中的固有偏见以及大型视觉-语言模型中的偏见主要受底层LLM影响等问题，强调了进一步研究的必要性。
Q&A
BiasBuster框架的主要目标是什么？
BiasBuster框架旨在发现、评估和减轻大型语言模型中的认知偏见。
文章中提到的去偏方法有哪些？
文章中提到的去偏方法包括超参数调整、指导性指导和去偏调整等。
研究发现大型语言模型中存在哪些偏见？
研究发现所有经过测试的大型语言模型都表现出显式和隐式的性别偏见。
BiasBuster框架是如何测试去偏策略的？
BiasBuster框架通过开发包含16,800个提示的数据集来测试多种去偏策略。
文章对未来研究的建议是什么？
文章强调了未来研究的必要性，以帮助克服大型语言模型中的偏见。
如何有效减轻性别偏见而无需访问模型参数？
可以通过手动设计的文本前言和职业描述句来有效抑制性别偏见，而无需访问模型参数。
