本文综述了可解释机器学习在物理学中的应用,强调其在科学发现中的重要性,分析了可解释性对人机协作、信任度和错误减少的影响,并展示了在物理各分支中的最新进展。
本研究分析了71位临床医生在处理缺失数据时与可解释机器学习模型的互动,发现医生更倾向于使用能够原生处理缺失值的模型,并建议未来的模型应更好地融入临床直觉。
本研究提出了一种新方法,将可解释机器学习中的预测解释任务视为约束优化问题,从而生成模型无关的解释。实证结果表明,该方法在多个数据集上优于现有的启发式方法Anchors。
本研究提出了一种改进的反事实解释方法,旨在提升可解释机器学习的有效性和信息性。实验结果表明,该方法优于现有的CELS模型,可能增强AI系统的可信度和透明度。
本研究提出了一种可解释的机器学习方法,用于预测铣削过程中的表面粗糙度。通过使用铝合金2017A的数据集,研究开发了能够准确预测不同粗糙度值的模型,并发现可以去除多余的传感器,降低成本,保持预测准确性。
本文探讨了功能数据分析(FDA)中的多种方法,包括孤立森林、非线性流形学习和可解释机器学习。研究提出了新算法和特征选择策略,以提高模型的可解释性和预测准确性,特别是在医疗领域的应用中,强调了特征图的构建和聚类性能的提升。
本文探讨了大型语言模型(LLM)在可解释机器学习(IML)中的应用,特别是在图像分类和HVAC系统中的有效性。研究提出了自动概念嵌入模型(ACEMs),旨在提高模型的解释能力和可靠性,并结合知识图谱和多模式模型,增强了模型的可解释性。
本文研究了Rashomon集合,提出了高效的枚举和查询技术,并探讨其在可解释机器学习中的应用。研究表明,数据噪声和样本量显著影响模型解释的一致性,并提出了新的度量方法来评估预测多样性,从而帮助科学家和实践者更好地理解模型表现和选择。
本文探讨了大型语言模型(LLMs)在智能仓储、自动驾驶和医疗诊断等领域的应用。研究提出结合可解释机器学习和目标建模的方法,以提升系统的可解释性和决策性能。实验结果表明,LLMs在复杂场景中具备良好的推理能力,显著提高了决策准确率,并指出了在医疗和自动驾驶中的潜力与挑战。
本文回顾了可解释的机器学习在自然科学中的应用,强调透明度和可解释性的重要性。探讨了机器学习在地球科学、物理科学和生物科学中的挑战与机遇,并提出结合领域知识的研究方向,以提高科学建模的可信度和可重复性。
本文介绍了一种新框架,利用可解释的机器学习方法评估机器学习模型在对抗攻击下的鲁棒性。研究涵盖恶意软件检测和图像分类,提出基于梯度的安全性评估方法,强调特征选择在对抗环境中的重要性。实验结果表明,该框架有效提高了分类器的安全性。
该文综述可解释机器学习研究,指出深度神经网络解释方法在公正性、数据偏见和性能方面存在不足,涵盖可解释性定义与分类、模型无关方法(如LIME)、认知块影响、正式解释逻辑编码及用户友好评估指标,强调需建立科学评估框架以推动发展。
该文综述可解释机器学习研究,涵盖基于SAT的可解释聚类、模型树替代模型、树模型简化、决策树全局解释、因果效应异质性推断、混合整数优化分类树与公平性约束、无监督可解释树聚类及后处理提升树可解释性等方法。
特征交互用于衡量两组特征的相关性:若特征独立,联合PD值等于各自PD值之和;否则以两者差异的平方和衡量交互强度。令某特征取“除j外全部”可计算其与其他所有特征的相关性。步骤为:先找出与其他特征交互最强的特征,再从中两两计算,选出最强组合。该方法有优缺点,详见可解释机器学习资料。
文章介绍可解释机器学习中的ALE方法。PDP将特征值代入所有样本,会产生现实中不存在的组合;ALE只考虑数据集中真实存在的样本,以局部区间内预测值的变化衡量特征影响,再累计成特征与预测的关系。ALE无偏、效率高、可处理相关特征,但区间划分影响波动,二维解释较复杂。类别特征可先排序再计算。总体建议优先用ALE而非PDP。
模型解释性位于系统最上层,从模型中提取信息供人理解。相关参考资源包括Christophm的《可解释机器学习》和Colah关于神经网络流形拓扑的博客文章。
完成下面两步后,将自动完成登录并继续当前操作。