你得是医生，林”：对大型语言模型在就业推荐中基于姓名的偏见的研究
内容提要
本研究探讨大型语言模型（LLMs）在招聘决策中是否存在种族和性别歧视。结果表明，LLMs对白人申请者的接受率更高，尤其是男性白人姓名。研究强调了模板提示对模型偏见的影响，并指出在LLMs部署中进行审计的重要性，以减少对边缘化群体的潜在伤害。
延伸解读
模板提示如何影响偏见表现
研究发现，大型语言模型对种族和性别的敏感性并非固定不变，而是受到模板提示的显著影响。在不同模板设置下，各群体的接受率有所波动，这表明模型偏见可能因提示设计的不同而被放大或掩盖。因此，在评估或部署LLM时，不能仅依赖单一提示模板，而应测试多种模板以全面了解其偏见模式。
审计在LLM招聘应用中的必要性
由于LLM在招聘决策中可能对白人申请者，尤其是男性白人姓名，表现出更高的接受率，研究强调了在部署过程中进行审计的重要性。定期审计可以帮助识别和量化模型对边缘化群体的潜在伤害，从而采取缓解措施。缺乏审计可能导致歧视性结果被无意中放大，影响招聘公平性。
与其他研究的关联与差异
本文的结果与多项关于LLM偏见的研究相呼应，例如GPT-4在购车谈判和选举预测中对少数群体和女性名字不利，以及工作推荐中墨西哥裔倾向于低薪工作、女性倾向于秘书角色。这些一致性表明LLM偏见是一个系统性问题，而非孤立事件。然而，不同研究在偏见的具体表现和程度上存在差异，提示需要针对具体应用场景进行细致评估。
Q&A
大型语言模型在招聘中是否存在种族和性别歧视？
是的，研究发现大型语言模型在招聘决策中对白人申请者的接受率更高，尤其是男性白人姓名。
研究中如何评估大型语言模型的招聘决策偏见？
研究通过设计模板提示，操纵求职者的名字，衡量模型生成接受或拒绝邮件的概率。
不同模板设置对大型语言模型的偏见有何影响？
不同模板设置下，各群体的接受率有所不同，表明模型的偏见受到模板提示的影响。
为什么在大型语言模型的部署中进行审计很重要？
审计可以减少对边缘化群体的潜在伤害，确保模型的公平性和准确性。
研究发现的偏见主要影响哪些群体？
研究发现男性白人姓名的接受率最高，而男性西班牙裔姓名的接受率最低。
大型语言模型在招聘决策中表现出的偏见是否是系统性问题？
是的，研究表明这些偏见在多个模板和模型中一致存在，显示出系统性问题。
