累计局部效应图
内容提要
文章介绍可解释机器学习中的ALE方法。PDP将特征值代入所有样本，会产生现实中不存在的组合；ALE只考虑数据集中真实存在的样本，以局部区间内预测值的变化衡量特征影响，再累计成特征与预测的关系。ALE无偏、效率高、可处理相关特征，但区间划分影响波动，二维解释较复杂。类别特征可先排序再计算。总体建议优先用ALE而非PDP。
延伸解读
ALE 与 PDP 的核心差异
PDP 将特征值代入所有样本，可能产生现实中不存在的组合，例如房价预测中面积 10 平米却有一百个房间。ALE 只考虑数据集中真实存在的样本，通过局部区间内预测值的变化来累计特征影响，因此更贴近数据实际分布，避免了对不可能样本的依赖。
ALE 的适用条件与优势
ALE 是无偏的，即使特征之间存在相关性也有效，且计算效率更高，时间复杂度为 O(n)，而 PDP 约为 O(n*m)。当特征高度相关时，单维度 ALE 可能无效，此时需分析二维 ALE 以观察特征交互。总体建议优先使用 ALE 而非 PDP。
类别特征的处理方式
类别特征没有天然顺序，ALE 通过计算两两取值的相似度矩阵，再经多维缩放降维到一维，从而为类别特征排序。例如对季节特征，可利用温度等数值特征判断相似度，进而完成数值化，使 ALE 能够处理类别变量。
使用 ALE 的注意事项
ALE 的区间划分影响结果：区间过多会导致曲线波动大，区间过少则结果不置信。二维 ALE 解释较复杂且不直观，特征强相关时单特征解释仍可能不可靠。此外，ALE 没有 ICE 曲线，当特征不相关时 PDP 可能更合适。
Q&A
ALE和PDP的主要区别是什么？
PDP将特征值代入所有样本，会产生现实中不存在的组合；ALE只考虑数据集中真实存在的样本，以局部区间内预测值的变化衡量特征影响，再累计成特征与预测的关系。
ALE方法有哪些优点？
ALE无偏，即使特征之间存在相关性也有效；效率更高，时间复杂度O(n)；解释性清晰：表达预测值的相对变化，以0为中心，每个点都是相对平均值的贡献度，2D ALE显示特征间的关系。
ALE方法有哪些局限性？
区间划分影响波动：区间数据量过多，ALE曲线波动较大；区间数量较少，结果并不置信。没有ICE曲线。二维解释较复杂且不直观。特征强相关时，单维度的ALE无效，仍然不好解释。
ALE如何处理类别特征？
类别特征没有顺序，先根据其他特征的分布判断两个取值的相似度，获得相似度矩阵，通过multi-dimensional scaling降维到一维，从而对类别特征排序，再计算ALE。
ALE如何计算两个特征的交互效应？
ALE描述特征2在特征1的基础上对预测值的影响，用(f(d)-f(c))-(f(b)-f(a))作为特征2在特征1的基础上对预测值的影响。当特征1和2相互独立，该值依然和预测值保持线性关系；当不独立时，能在消除相关性之后考虑特征-预测值之间的关系。
为什么建议优先使用ALE而不是PDP？
因为PDP会考虑实际中不存在的样本，例如房价问题中房子大小=10平米、房间数量=100个；而ALE仅考虑数据集中存在的样本，数据集取决于你认为适用的集合。ALE无偏、效率高、可处理相关特征，因此总体建议优先用ALE。
