可解释的人类和计算机视觉情绪解码
内容提要
本文探讨了可解释人工智能（XAI）在计算机视觉中的应用，特别是面部验证算法的可解释性。通过回顾不同的XAI方法，提出了基准数据集和评估流程，以促进视觉解释技术的发展，并强调将人类注意力融入XAI方法的重要性，以提高模型的可靠性和合理性。
延伸解读
XAI基准与评估流程的价值
文章提出了一个XAI基准，包含多主题数据集，提供类别标签和解释注释，并整合了数据加载、预处理、实验设置和模型评估的完整流程。这使研究人员能够公平比较各种视觉解释技术。此外，文章综合评述了超过10种评估方法，并在选定数据集上使用以模型为中心和以真实标注为中心的指标进行实验。该基准和代码公开可访问，有望推动视觉解释模型的进步。
人类注意力融入XAI的尝试
研究将人类注意力知识融入基于显著性的XAI方法，以增强计算机视觉模型的合理性和可靠性。具体开发了新的基于梯度的XAI方法，生成物体特定的解释，并使用可训练的激活函数和平滑核来最大化XAI显著图与人类注意图的相似性。在物体检测模型中，这种方法同时提高了可靠性和合理性，为XAI与人类认知结合提供了新思路。
情感机器学习中XAI的局限
通过对29篇研究文章的结构化文献综述，发现近五年来情感机器学习中采用可解释性方法成为趋势，但这些方法存在范围和评估深度的限制，并且缺乏用例的考虑。文章提出了对研究主要空白的概述和建议，指出未来需要更全面的评估和实际应用场景的探索，以推动可解释性方法在情感计算中的有效落地。
医学图像分析中的XAI框架
文章调查了可解释人工智能在基于深度学习的医学图像分析中的应用，提出了一个XAI标准框架来分类这些方法。该框架根据解释方法和解释结构对技术进行分类，并按解剖位置进行整理。文章还给出了未来在医学图像分析中XAI的机会展望，为研究人员提供了系统化的参考和方向。
Q&A
可解释人工智能（XAI）在计算机视觉中的主要应用是什么？
可解释人工智能（XAI）旨在揭示人工智能模型的决策过程，特别是在计算机视觉领域，通过提供人类可理解的决策洞察力来增加面部验证算法的可解释性。
文章中提到的XAI基准包含哪些内容？
文章提出的XAI基准包括来自不同主题的数据集集合，为图像提供类别标签和相应的解释注释。
如何提高计算机视觉模型的可靠性和合理性？
通过将人的注意力知识融入基于显著性的XAI方法，可以增强计算机视觉模型的合理性和可靠性。
文章对情感机器学习中的可解释性方法有什么发现？
文章通过对29篇研究文章的文献综述，发现情感机器学习中采用可解释性方法的趋势及其局限性，包括范围和评估深度的限制。
可解释人工智能在医学图像分析中的应用有哪些？
可解释人工智能在医学图像分析中的应用被分类，并提出了一个XAI标准框架，按解释方法和结构进行整理，并展望未来的研究机会。
文章中提到的视觉解释流程包括哪些步骤？
视觉解释流程包括数据加载、预处理、实验设置和模型评估过程，旨在帮助研究人员公平比较各种视觉解释技术。
