本研究探讨了美国再犯风险评估工具在个体公平性应用中的不足，强调应考虑年龄和性别因素，而忽略种族因素，以确保评估工具的公平性。

本研究探讨姓名、种族和性别对社会等级的影响，发现大型语言模型加剧了基于姓名的地位差异，尤其在不同种族和性别的互动中表现出复杂的偏见。研究强调了对种族、性别及混合身份的深入理解。

该研究关注如何理解和减轻大型语言模型（LLMs）在高风险决策中的偏见问题。通过引入招生和招聘决策任务，研究发现现有模型表现出明显的种族偏见，且多种提示策略无法消除这些偏见。研究还提出了一种新的方法，通过识别模型激活中的“种族子空间”来干预决策，结果表明这一方法能够显著减少偏见，虽然种族表征的普遍性仍面临挑战。

本研究解决了美国公立学校中普遍存在的种族/民族隔离问题，探讨了通过小学合并这种政策改变，来促进更为融合的学习环境。研究发现，在200个大规模学区中实施学校合并能将种族/民族隔离减少20%，某些地区的减少幅度可达近60%，同时增加的通勤时间仅为几分钟。

本文提出了一种新框架，将种族视为低层特征的高级抽象，明确建模其因果角色，并清晰界定歧视条件。研究表明，该框架有效解决了歧视建模的争议，同时保持因果关系的准确性。

本研究探讨如何通过内容和来源线索（特别是种族、民族和国籍）影响对AI生成内容的判断，尤其是在大学申请这一高风险自我展示环境中。研究发现，内容启发式（如语言风格）在AI检测中占主导地位，而国际学生更容易被认为使用了AI，尤其是当其陈述包含AI特征时。这一研究揭示了种族刻板印象与AI检测之间的关系，影响了个人陈述的质量感知及申请者的综合评价。

最新研究表明，大型语言模型（LLM）在焦虑状态下的回答更具偏见，尤其在种族和性别问题上。部分模型在焦虑评估中得分与人类相似，且通过强化学习与人类反馈（RLHF）可以降低焦虑水平。这项研究为改进AI系统提供了新思路。

本文研究了大型语言模型（LLMs）中的偏见问题，特别是针对穆斯林、性别和种族的偏见。提出了GPTBIAS框架来评估偏见，并介绍了三种攻击方法以测试模型的潜在偏见。研究表明，尽管LLMs表现优异，但仍可能被操控以产生有偏见的回应，强调了改进安全措施的重要性。

本研究分析了在线新闻中不同种族和性别群体的表现频率及背景，发现这些群体代表性不足且常被边缘化，揭示了新闻报道中的种族和性别偏见。

本研究探讨了人工智能在医学影像中的性别和种族偏见问题。通过评估不同的卷积神经网络模型，发现模型选择显著影响偏见程度，强调了公平性在医学影像任务中的重要性。此外，研究指出数据集不平衡会导致对某些人群的偏见，因此需要确保不同人口群体的充分表征，以提高模型的公平性和准确性。

本文探讨了文本到图像生成模型中的社会偏见，尤其是性别、年龄和种族方面的偏见。研究发现，现有模型存在职业和地理偏见。为改善生成图像的公平性，研究者提出了伦理干预和多样性微调的方法，并开发了新的评估框架以提升模型表现和公平性。

由于深度图像生成技术的成功发展，伪造检测在社会和经济安全中扮演更重要的角色。本文中，我们首次贡献了一个专门的数据集 —— 公平伪造检测（FairFD）数据集，证明了公共最先进方法的种族偏见。与现有的伪造检测数据集不同，自构建的 FairFD...

现在广泛使用基于大量音频数据训练的自动语音识别（ASR）模型将语音转换为书面文本，在视频字幕到医疗保健等各个领域中使用自动助手。本研究旨在通过研究当前最先进的基于神经网络的 ASR 系统（Whisper，OpenAI）在 CORAAL 数据集上的性能来了解康托语方言对 ASR 准确性的影响，并发现了方言差异和录音质量对 ASR 准确性的重要性。这些发现凸显了在研究神经 ASR...

本文探讨了大型语言模型中的社会偏见，特别是性别、种族和社会身份相关的偏见。研究发现，模型在处理情感信号和人际关系时存在显著偏见，尤其在不同种族和性别群体中。分析推文数据和实验结果显示，模型对非洲裔、亚洲裔和拉美裔美国人的描绘更具同质性，且性别影响在不同种族中存在差异。这些发现对减少未来模型中的偏见具有重要意义。

大型语言模型在医疗领域展现出潜力，但可能继承偏见，影响应用效果。研究表明，这些模型在费用和住院时间等方面对不同种族存在偏见，尤其对白人群体表现出更乐观的态度。需要进一步研究以解决这些偏见，确保对所有患者的公平和准确性。

合成数据作为真实面部数据的替代品，解决了伦理和法律挑战。研究表明，合成面部识别模型在偏差行为上与真实模型相似，但较低的内部一致性有助于减少偏差。通过生成对抗网络（GAN），研究提高了面部识别的准确性，并提出了平衡数据集的方法以减轻种族偏见。