可解释的自适应基于树的模型选择时间序列预测
内容提要
本文综述可解释机器学习研究，涵盖基于树的模型简化与高解释方法及其在医疗风险因素识别与模型监测中的应用，时间序列解释框架（集成特征选择、timeXplain、EBLR、WindowSHAP、H-Pro、TimeSHAP），以及财务领域利用生成对抗网络合成数据训练分段线性模型以提供局部归因解释。
延伸解读
树模型简化与高解释性方法
文章介绍了通过模型简化使复杂树模型具备可解释性的算法，在保证预测性能的同时将复杂树模型逼近为最简单的表现形式。此外，还提到运用博弈论、局部特征交互作用效应和全局模型结构，实现对基于树的机器学习模型的高可解释性，并应用于医疗领域识别非线性风险因素和监测模型性能衰减。
时间序列解释框架的多样性
文章综述了多个时间序列解释框架，包括集成特征选择方法、timeXplain、EBLR、WindowSHAP、H-Pro和TimeSHAP。这些框架分别针对特征选择、分类与预测解释、残差解释、Shapley值计算优化、层次结构模型选择以及循环网络归因等不同角度，提供了多样化的可解释性工具，并在医疗、金融等领域进行了应用验证。
财务领域的局部归因解释
在财务领域，文章探讨了利用生成对抗网络生成合成数据并训练分段线性模型的方法，以提供更好的局部模型无关解释，包括对单个特征的归因及其背景解释。这种方法旨在平衡复杂机器学习模型的预测能力与解释需求，为财务决策提供更透明的依据。
Q&A
如何让复杂的树模型在保持预测性能的同时变得可解释？
可以通过模型简化方法，将复杂的树模型逼近成最简单的表现形式，同时保证预测性能。另一种方法是在最小化每个叶子节点的最大误分类错误的情况下，将深度较低的树挂起，并从其每个叶子节点引入树模型，从而提高整体的统计性能和解释能力。
在医疗领域，可解释的树模型有哪些实际应用？
可解释的树模型已应用于三个医疗机器学习问题：识别美国人口中高强度但低频率的非线性死亡风险因素，突显具有共同危险特征的明显人口亚组；识别慢性肾脏疾病危险因素之间的非线性交互作用效应；以及监测在医院部署的机器学习模型，识别导致模型性能随时间衰减的因素。
timeXplain框架是做什么的？
timeXplain是一个旨在将解释性人工智能应用于时间序列分类和价值预测的框架。在该框架下，对几种最先进的时间序列分类器进行了大规模实验比较，发现了似乎不同的分类概念之间的相似性。
WindowSHAP如何解释时间序列分类器？
WindowSHAP是一个用于解释时间序列分类器的模型无关框架，使用Shapley值来降低计算复杂度并提高解释质量。它提供三个不同的算法，分别对应静态、滑动和动态时间窗口，并应用于医学领域的数据，获得了较好的实验结果。
TimeSHAP能解释哪些层面的归因？
TimeSHAP是一个模型无关的循环网络解释器，能计算特征、时间步和单元层面的归因。它可用于解释银行账户接管欺诈检测的预测结果，并发现一些关键洞察。
在财务领域，如何为复杂机器学习模型提供局部解释？
在财务领域，可以通过使用生成对抗网络生成合成数据并训练一种新型的分段线性模型，从而提供更好的局部后续模型无关解释，其中包括对单个特征的归因以及对其背景的解释。
