知识图谱用于实证概念检索

原文约400字，阅读约需1分钟。发表于：。

基于概念的可解释人工智能利用经验性定义的概念和通用知识图谱，为用户提供个性化的解释方式，并通过基于经验概念数据集的概念激活向量和概念激活区域方法来提供稳健准确的解释。

本文研究了基于概念的解释方法中的Concept Activation Vectors (CAVs)的性质，并提供了工具来检测和减小这些性质对解释的影响。作者发现CAVs具有不一致性、纠缠在一起的不同概念以及空间依赖性等特点。同时，作者还引入了具有空间依赖性的CAVs来测试模型的平移不变性。作者还发布了一个新的合成数据集Elements，以促进对解释性方法的研究和评估。