本文介绍了如何使用Mimesis库生成平衡的反事实数据集，以审计机器学习模型的偏见。通过创建具有相同收入但不同性别的贷款申请者，揭示模型在性别上的歧视。实验结果表明，男性申请者更容易获得贷款批准，而女性则常被拒绝。这一方法有助于识别和纠正模型中的偏见。

本研究提出了“拆分！”数据集，用于评估大型语言模型在不同人口群体表达方面的表现。通过新任务“群体理论化”，研究表明该框架能够有效生成群体表达的理论，帮助理解和减轻模型偏见。

本研究探讨了推荐系统中的性别偏见，提出了一套量化指标，并强调评估公平性的重要性。研究表明，加入类别意识公平性指标可以有效减少模型偏见，同时保持推荐性能。

埃隆·马斯克指出，真实世界数据已所剩无几，未来人工智能将依赖合成数据进行训练。合成数据由AI模型生成，具备自我评分和学习能力。虽然获取合成数据成本低且方便，但可能导致模型偏见和质量下降。

本研究探讨了图像分类中的公平性、隐私与效用之间的权衡，分析了尖锐性感知训练与差分隐私的结合，发现泛化技术可能加剧模型偏见，影响准确性和隐私安全。

本研究提出了一种评估框架，分析多模态生成模型在公平性和可靠性方面的表现，揭示不可靠行为的触发因素，并评估生成内容的多样性与公平性，为检测模型偏见奠定基础。

本研究提出了一种名为公平蒸馏（FairDi）的方法，旨在解决医疗影像模型中的偏见问题。通过优化偏见“教师”模型来指导“学生”模型的训练，FairDi在准确性和公平性上均有显著提升。

本论文探讨了嵌入方法在医疗领域对社会边缘群体的偏见问题，发现大型语言模型（如BERT）在性别、语言和种族方面存在显著性能差异。研究提出了公平人工智能框架，强调需解决模型偏见，以确保医疗结果的公平性和准确性。同时，开发了BiasMedQA基准测试，评估模型在医学任务中的偏见影响，并呼吁对训练数据进行透明检查及提出偏见缓解策略。

该研究探讨了大型语言模型在处理不同英语方言（如非裔美国人方言英语AAVE）时的性能差异，发现主流模型在非标准方言上表现不佳且存在偏见。研究提出了数据增强和指令微调等改进方法，以提升模型的方言稳健性和理解能力。

本文研究了大型预训练语言模型中的语言知识及其行为，发现模型在不同语言中的表现存在差异。通过微调可以揭示隐藏的语言知识。评估结果表明，模型规模越大，表现越好，但仍存在偏见和错误。提出了一种新评估框架以量化偏见，并探讨了提示设计对模型性能的影响。此外，研究发现模型存在泄漏风险，可能泄露个人信息，并提出了自检测方法以改善检测性能。

本研究探讨了大型语言模型（LLMs）的量化技术，发现4位量化在大多数基准测试中表现相当，但可能影响推理速度和模型偏见。研究揭示了量化对模型置信度的影响，并提出基于置信度的量化损失解释，强调量化的最佳实践和安全性问题。量化技术在提高存储和计算效率的同时，需关注其对模型新兴能力的影响。

本研究探讨大型语言模型（LLMs）在招聘决策中是否存在种族和性别歧视。结果表明，LLMs对白人申请者的接受率更高，尤其是男性白人姓名。研究强调了模板提示对模型偏见的影响，并指出在LLMs部署中进行审计的重要性，以减少对边缘化群体的潜在伤害。

本文提出了一种基于大型语言模型的代码生成和优化框架CodeT，旨在解决数据分析和软件系统中的错误。该方法利用预训练模型自动生成测试用例，降低人工成本并提高测试覆盖率。同时，研究探讨了模型偏见对生成代码的影响，并提出消除偏见的框架，展示了改进代码质量的潜力。

构建公平的深度神经网络是实现可信的人工智能的关键步骤。研究发现深度神经网络内部的几何特征对公平性有影响。提出了内在维度正则化（IDR）的方法，减轻模型偏见并改善性能。

本文探讨了数据代表性在机器学习中的重要性，分析了模型偏见与输入数据的关系。提出了数据代表性标准（DRC），评估训练数据与新数据的相似性，并研究其对分类算法性能的影响。强调了数据集质量评估的重要性，并提出了综合框架以帮助研究人员。

FITNESS是一种通过去相关化敏感特征和标签之间的因果效应来缓解模型偏见的方法，使用多目标优化平衡性能和公平性。在8个基准测试中，FITNESS在提高模型公平性的同时保持了模型的性能，并在96.72％的情况下优于已有的所有方法。