The Berkeley Artificial Intelligence Research Blog
·
ChatGPT中的语言偏见：语言模型强化方言歧视
💡
原文英文，约900词，阅读约需3分钟。
📝
内容提要
ChatGPT是一种语言模型，对非“标准”英语存在偏见，包括刻板印象和贬低内容，理解能力较差，回答傲慢。该模型更多地模仿标准美式英语，但也经常模仿使用人数更多的其他变体。它默认使用美国惯例，对非美国用户造成了困扰。母语者评级显示，对非“标准”英语的回答在刻板印象、理解能力、自然度和傲慢程度方面较差。新一代模型GPT-4加剧了刻板印象。这种现象延续了语言歧视，强化了权力动态，对少数语言社群造成了伤害。
🎯
关键要点
- ChatGPT对非“标准”英语存在偏见，包括刻板印象和贬低内容。
- 该模型主要模仿标准美式英语，但也会模仿其他使用人数较多的英语变体。
- 非“标准”英语的使用者在现实中常常面临歧视，ChatGPT可能加剧这种歧视。
- 研究发现，ChatGPT对非“标准”英语的回答在刻板印象、理解能力、自然度和傲慢程度方面表现较差。
- 研究比较了GPT-3.5和GPT-4对十种英语变体的响应，发现模型对标准英语的响应保留特征明显。
- 模型对非“标准”英语的响应在刻板印象和贬低内容方面表现更差，且理解能力较低。
- GPT-4在模仿输入时虽然在温暖度和友好度上有所改善，但在刻板印象方面却更严重。
- ChatGPT的使用可能加剧对非“标准”英语使用者的语言歧视，强化社会不平等。
- 随着AI模型在日常生活中的使用增加，这些工具可能会加深对少数语言社群的伤害。
➡️
