CohEx:一种通用的群体解释框架
原文中文,约400字,阅读约需1分钟。发表于: 。这项研究解决了现有可解释人工智能在群体解释方面的不足,提出了一种新的通用框架用于生成群体解释。论文深入探讨了测量群体解释的独特挑战与机遇,并提出了基于监督聚类的方法。研究结果有望增强我们对特定实例群体内模型决策的理解。
近年来,可解释人工智能(XAI)快速发展,关注如何解释复杂模型的数据。针对Shapley Additive Explanations(Shap),提出了一种模型不可知的方法,通过系统扰动分析生成特征重要性。该算法在动态推理下评估机器学习和深度学习的解释质量,并提出特征重要性方法的分类体系,衡量一致性和模型间相似性。