The Berkeley Artificial Intelligence Research Blog
·
ChatGPT中的语言偏见：语言模型强化方言歧视
内容提要
ChatGPT是一种语言模型，对非“标准”英语存在偏见，包括刻板印象和贬低内容，理解能力较差，回答傲慢。该模型更多地模仿标准美式英语，但也经常模仿使用人数更多的其他变体。它默认使用美国惯例，对非美国用户造成了困扰。母语者评级显示，对非“标准”英语的回答在刻板印象、理解能力、自然度和傲慢程度方面较差。新一代模型GPT-4加剧了刻板印象。这种现象延续了语言歧视，强化了权力动态，对少数语言社群造成了伤害。
关键要点
-
ChatGPT对非“标准”英语存在偏见，包括刻板印象和贬低内容。
-
该模型主要模仿标准美式英语，但也会模仿其他使用人数较多的英语变体。
-
非“标准”英语的使用者在现实中常常面临歧视，ChatGPT可能加剧这种歧视。
-
研究发现，ChatGPT对非“标准”英语的回答在刻板印象、理解能力、自然度和傲慢程度方面表现较差。
-
研究比较了GPT-3.5和GPT-4对十种英语变体的响应，发现模型对标准英语的响应保留特征明显。
-
模型对非“标准”英语的响应在刻板印象和贬低内容方面表现更差，且理解能力较低。
-
GPT-4在模仿输入时虽然在温暖度和友好度上有所改善，但在刻板印象方面却更严重。
-
ChatGPT的使用可能加剧对非“标准”英语使用者的语言歧视，强化社会不平等。
-
随着AI模型在日常生活中的使用增加，这些工具可能会加深对少数语言社群的伤害。
延伸问答
ChatGPT对非标准英语的偏见表现在哪些方面？
ChatGPT对非标准英语的偏见表现为刻板印象、贬低内容、理解能力差和傲慢的回答。
GPT-4与GPT-3.5在处理非标准英语时有什么不同？
虽然GPT-4在温暖度和友好度上有所改善，但在刻板印象方面却更严重，表现更差。
为什么ChatGPT会对非美国用户造成困扰？
ChatGPT默认使用美国惯例，且对输入的英国拼写几乎总是回归美国拼写，导致非美国用户体验不佳。
使用ChatGPT可能加剧哪些社会问题？
使用ChatGPT可能加剧对非标准英语使用者的语言歧视，强化社会不平等和权力动态。
研究发现ChatGPT对不同英语变体的响应有什么特点？
研究发现ChatGPT对标准英语的响应保留特征明显，而对非标准英语的响应则表现出更多的偏见和刻板印象。
非标准英语使用者在现实中面临哪些歧视？
非标准英语使用者常常被认为不专业或不正确，甚至在法律和住房等方面受到歧视。
