从列表到表情符号：格式偏见如何影响模型对齐

该研究介绍了一个大规模数据集和新的自动化度量方法，用于研究深度学习生成文本中的社会偏见。

机器生成的文本在五个领域中表现出比人类撰写的文本更大的社会偏见。

探讨了大型语言模型中的固有偏见的挑战、起源和伦理问题，强调跨学科合作以开发更公正的人工智能系统。

提出了扩展现有偏见测评数据集的方法，并介绍了新的倾向度测量标准。

分析了大型语言模型的对齐和评估中的关键缺陷，发现人类和人工智能注释者之间的评分差异。

综述了社会偏见评估和缓解技术，帮助研究人员理解和防止偏见传播。

研究了使用其他大型语言模型评估时出现的偏差，提出了度量冗长性偏差的指标。

评估和改善大型语言模型的公平性，研究偏差和毒性度量的效果。

提出了一种逻辑探测器来研究大型语言模型中的社会人口统计学偏见。

研究了选择偏差现象，量化了选项顺序和标记对模型决策的影响，并提出了缓解策略。

提出了去偏见方法REFINE-LM，通过强化学习显著减少刻板偏见，同时保持模型性能。