ShaRP: 使用 Shapley 值解释排名
原文中文,约300字,阅读约需1分钟。发表于: 。基于 Shapley 值的 ShaRP 框架用于解释特征对排序结果的贡献,展示了即使排名算法使用已知和线性的评分函数,特征的权重也不能与其 Shapley 值对应,而是依赖于特征分布和评分特征之间微妙的局部交互。ShaRP 在多个感兴趣的指标(包括分数、排名、成对偏好和前 k 个)上计算特征的贡献,并能解释基于分数和学习排序模型。通过实际和合成数据集的大量实验证明了 ShaRP 的有用性。
FairShap是一种公平的预处理方法,通过数据估值实现公平的算法决策。它基于Shapley Value框架,通过测量每个训练数据点对公平度量的贡献来实现可解释性。实证验证表明,FairShap在多个数据集上表现优于其他方法,并产生了更公平的模型。通过可视化工具,FairShap展示了其可解释性。这项工作代表了算法公平性和深度学习可解释性的有前途的方向。