FunnyBirds:用于可解释 AI 方法的基于部件分析的合成视觉数据集
原文中文,约300字,阅读约需1分钟。发表于: 。通过使用一个名为 FunnyBirds 的新型合成视觉数据集以及相应的自动评估协议,我们解决了解释性人工智能(XAI)领域中的一个挑战,该领域旨在揭示复杂深度神经模型的内部工作方式。使用我们的工具,我们对 24 种不同的神经模型和 XAI 方法进行了评估,以全自动和系统的方式展示了这些方法的优势和劣势。
该文介绍了Greybox XAI框架,通过结合深度神经网络和透明模型,利用符号知识库实现可解释的人工智能。首先,从数据集中提取知识库并用于训练透明模型。然后,通过训练编码器-解码器架构在RGB图像上生成类似于透明模型输出的知识库。最后,将这两个模型组合形成可解释的预测模型。作者展示了该框架在几个数据集上的准确性和可解释性。