知识蒸馏方法通过共享基于温度的软最大函数传递软标签。研究者提出了一种新的预处理方法，通过设置温度为logit的加权标准差，并在应用softmax和Kullback-Leibler散度之前进行Z分数预处理标准化，以提高现有基于logit的蒸馏方法的性能。实验结果表明，该方法在CIFAR-100和ImageNet上表现出显著优越性。

FairShap是一种公平的预处理方法，通过数据估值实现公平的算法决策。它基于Shapley Value框架，通过测量每个训练数据点对公平度量的贡献来实现可解释性。实证验证表明，FairShap在多个数据集上表现优于其他方法，并产生了更公平的模型。通过可视化工具，FairShap展示了其可解释性。这项工作代表了算法公平性和深度学习可解释性的有前途的方向。

本论文是一项大规模实证研究，比较了不同公平性改进技术在不同数据集和敏感属性上的性能。结果显示不同方法之间存在较大差异，预处理方法和内处理方法优于后处理方法，其中预处理方法表现最佳。该研究为深度学习模型的公平性提供了全面的建议。