本文综述多项研究,探讨语言模型在性别、种族、宗教等方面的偏见问题,提出定义、测试与去偏方法。研究发现新模型性别偏见减少,但种族偏见仍存。部分工作评估GPT系列偏见,介绍检测工具包,并尝试有意引入偏见以塑造媒体角色,强调跨学科合作构建更公正透明的AI系统。
该文综述语言模型偏见研究:预训练模型存在性别、种族、宗教及政治等社会偏见,并会传播至下游任务。研究提出性别微调、反事实数据增强、无微调策略等去偏方法,发现参数有效方法对性别偏见有效但对种族宗教偏见效果差;内在偏见指标比外在指标更能评估去偏效果,且模型微调后可能重新学习偏见。
完成下面两步后,将自动完成登录并继续当前操作。