层级偏倚驱动分类用于可解释因果效应估计
内容提要
该文综述可解释机器学习研究，涵盖基于SAT的可解释聚类、模型树替代模型、树模型简化、决策树全局解释、因果效应异质性推断、混合整数优化分类树与公平性约束、无监督可解释树聚类及后处理提升树可解释性等方法。
延伸解读
可解释性方法的多样性
文章综述了多种可解释机器学习方法，包括基于SAT的可解释聚类、模型树替代模型、树模型简化、决策树全局解释、因果效应异质性推断、混合整数优化分类树与公平性约束、无监督可解释树聚类及后处理提升树可解释性等。这些方法从不同角度提升模型可解释性，适用于不同场景。
可解释性与性能的权衡
多个研究关注可解释性与预测性能之间的平衡。例如，基于SAT的聚类框架提供了关于解释性和满足用户约束之间权衡的新见解；混合整数优化框架分析了公平性、可解释性及预测准确性之间的权衡，并在几乎完全平等的情况下保持精度。
应用场景与影响
可解释性方法在医疗和搜索引擎等领域有重要应用。无监督可解释树聚类在医疗应用中具有重要意义；因果效应异质性推断方法应用于大规模搜索引擎实验。这些应用展示了可解释机器学习在现实世界中的价值。
Q&A
有哪些方法可以提升树模型的可解释性？
文章提到多种方法：使用模型树作为替代模型，通过决策规则划分特征空间并用可解释模型近似黑盒行为；通过模型简化方法将复杂树模型逼近为最简单形式；使用决策树对黑盒模型进行全局解释并采用新提取算法避免过拟合；以及后处理中使用EM算法和简化模型提高树模型可解释性。
如何用决策树解释黑盒模型？
文章提出使用决策树对黑盒模型进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。
因果效应异质性推断有哪些新方法？
文章研究了试验或观察研究中估计因果效应异质性的问题，以及在子群体之间进行处理效应差异大小的推断，提出了一种新的交叉验证标准来确定因果效应的预测是否准确，并将该方法应用于大规模搜索引擎实验。
混合整数优化在可解释机器学习中有哪些应用？
文章提到混合整数优化用于学习最优分类树算法，并可扩展任意公平性约束，提出决策复杂度作为可解释性度量；还用于生成可解释的基于树的聚类模型，提高聚类算法可解释性，在医疗应用中具有重要意义。
如何生成可解释的聚类模型？
文章介绍了多种方法：基于SAT的可解释聚类框架，支持聚类约束并提供理论保证；无监督学习算法利用混合整数优化生成可解释的基于树的聚类模型；基于决策树分类器的迭代方法提取高密度可解释的同类数据集群；以及通过优化可解释性生成聚类并使用频繁模式挖掘生成简单说明的算法。
公平性约束与可解释性、预测准确性之间如何权衡？
文章设计了混合整数优化框架学习最优分类树，并扩展任意公平性约束，提出决策复杂度度量可解释性，在流行数据集上对公平性、可解释性及预测准确性之间的权衡进行了综合分析，证明方法在几乎完全平等的情况下仍能保持精度。
