赋予预训练图模型可证明的公平性
内容提要
本文综述图神经网络公平性研究，分析图结构、节点属性与模型参数偏差，提出FairSample、FMP、GMMD、MAPPING、PDD等框架，通过重采样、正则化、去偏与因果干预提升公平与准确性的平衡。
延伸解读
图结构偏差的根源与应对
文章指出，GCNs中的不公平性不仅源于节点属性偏差，还与图结构偏差密切相关。FairSample框架通过注入边缘和可学习的邻居采样策略，在训练中动态调整图结构，以缓解结构偏差对人口平等性的影响。这提示我们，在图模型公平性研究中，结构层面的干预与属性层面的去偏同样重要，单纯调整节点特征可能不足以实现公平。
公平性干预的时机与策略
文章将公平性技术分为预处理、训练过程和后处理三个阶段，并介绍了多种框架：FairSample在训练中联合优化公平与准确；GMMD在消息传递中融入公平感知；MAPPING作为模型无关的去偏框架，结合对抗去偏降低属性推断风险；PDD则通过影响力估计进行去偏。这些方法各有侧重，实际应用中需根据模型类型和公平性需求选择合适阶段与策略。
公平与效用的权衡并非单一最优
文章提到，PFR-AX和PostProcess等干预方法在公平与准确性之间提供了细粒度控制，但实验表明没有一种干预能普遍实现最佳权衡。这意味着在实际部署中，需要根据具体场景和敏感群体定义来调整公平性约束的强度，并接受效用可能有所下降。同时，MAPPING等框架还能减轻敏感信息泄露的隐私风险，说明公平性干预可能带来额外收益。
因果干预为公平性提供新视角
文章介绍了基于干预的因果公平性框架，在部分已知因果图（PDAG）下平衡公平与准确。这类方法从因果角度处理偏差，而非仅依赖统计相关性，有助于区分由敏感属性直接导致的歧视与通过其他变量间接传递的偏差。对于复杂图数据，因果框架可能提供更稳健的公平性保证，但需要部分因果图作为先验知识。
Q&A
图神经网络中的公平性问题主要来自哪些偏差？
图神经网络中的公平性问题主要来自图结构偏差、节点属性偏差和模型参数偏差。
FairSample框架是如何提升GCN公平性的？
FairSample框架通过注入边缘和使用增强学习的可学习邻居采样策略来改善图结构，并采用正则化目标来优化公平性，从而共同解决图结构偏差、节点属性偏差和模型参数偏差。
GMMD框架有什么特点？
GMMD是一种公平感知的消息传递框架，它考虑了图平滑性和表示公平性，可以显著提高各种GNN模型的公平性，同时保持高精度。
MAPPING去偏框架如何实现公平节点分类？
MAPPING是一种模型无关的去偏框架，采用基于距离协方差dCov的公平约束，减小任意维度中的特征和拓扑偏差，并结合对抗去偏以限制属性推断攻击的风险。实验表明它能在效用与公平之间取得更好的权衡，并减轻敏感信息泄露的隐私风险。
PDD策略如何用于GNN去偏见？
PDD策略可以衡量GNN中表现出的偏见，并开发了一种算法来有效估计每个训练节点对此偏见的影响力。在真实世界数据集上的实验验证了PDD的有效性和影响力估计的有效性，并演示了如何使用该框架进行GNN去偏见化。
有哪些与GNN无关的干预方法可以减轻偏见？
PFR-AX和PostProcess是两种与GNN无关的干预方法。PFR-AX通过减少受保护群体和非受保护群体之间的可分性来最小化误差率差异，PostProcess基于黑盒策略更新模型预测来最小化人口群体之间的误差率差异。实验表明，没有单一干预能提供普遍最佳权衡，但PFR-AX和PostProcess提供了细粒度控制，并在正确预测受保护群体节点的正向结果时提高了模型的置信度。
公平映射预处理方法是如何改善数据公平性的？
公平映射是一种预处理方法，通过转换敏感组的数据分布到一个特定的目标分布上，并实现保护敏感属性不被推论的目标来改善数据的公平性。实验结果表明，该方法能够同时隐蔽敏感属性，不失数据的特性，同时提高了后续数据分析任务的公平性。
基于干预的因果公平性框架如何平衡公平性和准确性？
该框架使用部分有向无环图（PDAG）来度量因果公平性，并制定一个受限制的优化问题来平衡公平性和准确性。模拟和真实数据集的结果证明了该方法的有效性。
