GPT 中的令人惊讶的性别偏见
内容提要
本文探讨了语言模型中的性别偏见，分析了其在生成文本中的表现及影响。研究创建了带有性别偏见的数据集，评估了模型在翻译和性别推断中的偏见程度，强调了减少偏见的重要性，并提出了改进建议。
延伸解读
偏见并非二元：相对尺度评估的意义
文章指出，先前研究常将性别偏见视为二元分类任务，但偏见实际上应按相对尺度感知。为此，研究者创建了首个带有性别偏见的GPT生成英文文本数据集，并采用最佳-最差比例进行权威评级，以获得相对评估的度量。这种方法能更细致地捕捉偏见的程度差异，而非简单判定有无偏见，为后续分析提供了更可靠的量化基础。
攻击身份：性别偏见最相关的主题
通过系统分析观察到的排名中性别偏见主题的变化，研究发现攻击身份是与性别偏见最相关的主题。这意味着在GPT生成的文本中，涉及攻击身份的表述往往伴随着更高程度的性别偏见。这一发现提示，在检测和缓解性别偏见时，应特别关注涉及身份攻击的内容，因为它们可能是偏见的高发区域。
机器翻译中的性别偏见：STEM领域的男性偏向
文章提到，机器翻译工具在翻译中性代词时表现出性别偏见，尤其是在STEM领域。例如，Google翻译的实验显示，翻译的默认性别更偏向男性，且这种偏见程度远超实际分布。类似地，ChatGPT在将中性代词转换为'he'或'she'时，会透过职业或行为刻板印象体现性别偏见，在其他语言中无法正确翻译英文中性代词'they'。这表明当前统计翻译工具需要偏误纠正。
减少偏见：算法与数据增强及以人为本的设计
研究强调了在语言技术中培养公平和包容的重要性，并提出了减少偏见的算法和数据增强技术。同时，建议未来的AI翻译工具设计者应以人为本，减少性别偏见。这些建议指向了技术改进与设计理念并重的方向，即不仅通过算法和数据手段降低偏见，还需在工具设计之初就考虑人的因素，以促进更公正的语言技术发展。
Q&A
性别偏见在语言模型中是如何体现的？
性别偏见在语言模型中通过生成的文本表现出来，尤其是在翻译和性别推断中，常常反映出社会对性别的刻板印象。
研究是如何评估语言模型中的性别偏见的？
研究创建了带有性别偏见的 GPT 生成英文文本数据集，并使用权威评级方法评估偏见程度。
机器翻译工具在处理性别代词时存在哪些偏见？
机器翻译工具在翻译性代词时，尤其在 STEM 领域，表现出更偏向男性的性别偏见，超出了实际分布。
如何减少语言模型中的性别偏见？
建议未来的 AI 翻译工具设计者应以人为本，采用算法和数据增强技术来减少性别偏见。
性别偏见对社会的影响是什么？
性别偏见延续了社会中的刻板印象，影响了人们对性别角色的认知和期望，阻碍了公平和包容的发展。
研究中提到的性别偏见的算法和技术有哪些？
研究提出了减少性别偏见的算法和数据增强技术，强调了学科间合作的重要性。
