本研究提出匹配人口平衡 (MDP) 方法,解决群体公平性测量中的隐含属性问题,量化不同保护群体的预测差异,并通过“通过匹配实现公平性”(FTM)算法成功训练公平模型。
本文探讨了公平聚类问题,提出了多种算法以确保数据聚类中的公平性,允许个体属于多个保护群体。研究涵盖了比例质心聚类、f-散度测量和群组代表性等概念,并提供了有效的近似算法和实验验证,强调了群体公平性与个人公平性之间的关系。
本文探讨了机器学习分类器在决策过程中的公平性问题,强调随机分类器集合的潜在好处,如保证公平性和改善准确性-公平性权衡。研究分析了不同算法在群体公平性上的表现差异,并提出了“正和公平”概念,以促进医疗人工智能中的公平性应用。
本文探讨了在安全关键应用中,如何通过重要性采样和多校准算法提高模型的校准效果,解决不确定性量化和群体公平性问题。研究表明,所提方法在多个数据集上显著提升了校准性能,降低了校准误差,并有效应对协变量转移。
本文介绍了多种联邦学习框架和算法,旨在解决隐私泄漏和群体公平性问题。提出的联邦子模型学习框架允许客户端定制模型以保护隐私。FairFed算法增强群体公平性,FedAC框架提高测试准确率,FRECA方法量化客户贡献以防御攻击。研究探讨了公平性与准确率的关系,并提出多种优化方法以提升联邦学习的公平性和效率。
本研究提出了FairGrad方法,通过基于群体权重的重新加权方案实现群体内部公平性,适用于多种公平性定义,并在多个数据集上取得良好效果。同时,探讨了个体公平性、非凸模型训练问题及公平性排序方法,提出了多种优化算法以提高学习算法的公平性和准确性。
本文研究了文本到图像生成模型(T2I)中的性别、年龄和种族偏见。通过评估DALLE-v2和Stable Diffusion等模型,发现存在显著的职业和地理偏见。研究提出了一种基于隐性联系测验的框架,以评估模型在生成图像时的社会刻板印象。通过微调模型,显著提高了群体公平性指标,推动了无性别偏见的多语言模型研究。
FedShift 是一种新算法,旨在提高异构环境中联邦学习的训练速度和准确性。研究提出了 HeteroFL 框架,通过自适应分配子网络提升计算和通信效率,并通过 FedAlign 解决数据异构性问题,确保高精度而不增加计算开销。此外,研究关注群体公平性,提出减少偏见的框架。
本文研究了差分隐私与个体公平性和群体公平性的相互作用。作者关注输出扰动机制,导出了对扰动模型相对于原始模型可以实现的个体和群体公平性水平的高概率界限。输出扰动对个体公平性的影响是有界的,但随着模型维度增长而增加。群体公平性受角余量分布的影响。
本文研究了节点分类任务,探讨了群体公平性与局部同配性之间的联系,发现同质性会导致同配性,影响个人进入共享敏感属性的社区。通过合成图研究了本地同质性和公平预测之间的相互作用,发现并非所有节点邻域在这方面都是平等的。研究表明采用能够处理非同配组标签的异质性 GNN 设计可以提高局部异质性邻域的群体公平性高达25%,优于同质性设计。
联邦学习可能对群体公平性产生不利影响,偏见通过网络传播给参与方。与集中式训练相比,联邦学习中的偏见更严重,呼吁审计群体公平性并设计对偏见传播具有强韧性的学习算法。
完成下面两步后,将自动完成登录并继续当前操作。