变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法
内容提要
本文综述Shapley值在机器学习解释中的进展，包括ShapNets实现层次化快速解释、高斯过程方法量化解释不确定性、FAE框架提供置信区间与对比解释，以及条件期望估计、相关特征处理、多项式时间逼近和非对称Shapley值等研究，用于提升可解释性与公平性检测。
延伸解读
从解释工具到模型组件
文章指出，Shapley值不再仅作为事后解释工具，而是被嵌入深度模型的潜在表示中，成为建模范式的第一等公民。这种思路使模型在训练期间就能生成解释，并支持层次化解释和快速计算。ShapNets通过确保Shapley值的缺失性和准确性，在合成与真实数据集上验证了有效性，为可解释性研究提供了新方向。
量化解释的不确定性
针对Shapley值解释本身的不确定性，文章介绍了基于高斯过程的方法，利用其完整分析协方差结构生成可量化不确定性的解释，并研究解释间的统计依赖性。此外，还有工作将Shapley值用于解释预测不确定性，通过量化每个特征对模型输出条件熵的贡献，应用于协变量转移检测、主动学习等场景。
应对相关特征与计算效率
传统Shapley解释常假设特征不相关，但文章指出这一假设会导致错误展示和隐藏的模型依赖性。为此，研究者提出基于生成建模或直接学习价值函数的策略来处理相关特征。同时，为提升计算效率，出现了多项式时间逼近方法，以及使用蒙特卡洛积分或回归估计条件期望的改进方案，以在精度与效率间取得平衡。
公平性检测与对比解释
文章提到，非对称Shapley值（ASVs）框架放宽了传统限制，可用于改善模型解释、检测预测中的不公平歧视，并支持时序模型中的增量解释和特征选择而无需重新训练。FAE框架则提供置信区间和对比解释，帮助理解黑盒模型在不同数据集上的结构，增强了可解释性在公平性检测中的实用性。
Q&A
ShapNets 是什么？它如何实现层次化解释和快速计算？
ShapNets 是一种将 Shapley 值作为深度模型潜在表示的方法，使 Shapley 解释成为建模范式的第一等公民。它实现了层次化解释、模型在训练期间的解释以及快速解释计算，并确保 Shapley 值的缺失和准确性。
如何量化 Shapley 值解释的不确定性？
可以使用基于高斯过程的方法，利用高斯过程中完整的分析协方差结构，生成能够量化解释不确定性和研究解释之间统计依赖性的解释。此外，FAE 框架也提供置信区间来量化不确定性。
FAE 框架是什么？它提供了哪些解释功能？
FAE（Formulate，Approximate，Explain）是一个机器学习模型解释框架，利用 Shapley 值和博弈论方法进行解释，并提供置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。
处理相关特征时，Shapley 值解释有哪些策略？
有两种策略：基于生成建模的方法提供灵活的数据归因；另一种直接学习 Shapley 价值函数，提供性能和稳定性，但缺乏灵活性。研究表明，忽略特征相关性会导致展示效果错误、隐藏敏感性属性的隐含模型依赖性和意义不明的高维数据。
什么是不对称 Shapley 值（ASV）？它有哪些应用？
不对称 Shapley 值（ASV）是一种较少限制的框架，可以改善模型解释、为模型预测中的不公平歧视提供测试、在时序模型中支持逐步增量解释以及支持特征选择研究而无需进行模型重新训练。
如何用 Shapley 值解释模型输出的不确定性？
可以将 Shapley 值框架用于解释各种预测不确定性，通过量化每个特征对个体模型输出的条件熵的贡献来解释模型输出的不确定度。该方法可用于协变量转移检测、主动学习、特征选择和主动特征值获取。
