本研究提出eXpLogic算法,利用DiffLogic网络架构解决深度神经网络的复杂性问题,生成显著性图,识别决策输入,缩减网络规模,提高推理效率。
本研究提出了一种名为Poem的可解释人工智能模型,旨在提高时间敏感场景下的可解释性。该模型通过生成示例、反示例和显著性图,提供快速有效的解释。实验结果表明,Poem在速度和生成细致示例方面优于前代模型Abele。
随着大型语言模型的发展,理解其决策过程变得重要。可解释性技术如注意力可视化、显著性图和集成梯度等,揭示了模型的“黑箱”特性,提升了模型的透明度、可靠性和公平性。
研究表明,量化技术可以使大模型在遗忘特定知识后重新恢复这些知识。宾夕法尼亚州立大学、哈佛大学和亚马逊的研究发现,4-bit量化会导致被遗忘的知识重新显现。为了解决这一问题,提出了SURE框架,通过显著性图指导遗忘过程,以优化模型效用与遗忘性能的平衡。
本研究提出了一种基于显著性图的不变Krawtchouk矩的图像检索方法(SM-IKM),通过显著区域检测与多阶特征结合,显著提高了检索的准确性和效率。实验结果显示,该方法优于现有技术。
本文提出了一种基于视觉显著性的人脸识别解释框架,利用CorrRISE算法生成显著性图,揭示人脸的相似与不同区域。实验证明该方法在解释人脸识别方面优于其他方法,提供了深入的洞察力。
本文提出了一种基于显著性图引导的生成对抗网络(SCGAN)框架,用于灰度图自动上色。该方法利用预训练的VGG-16-Gray网络的全局特征,通过颜色编码器实现高效训练,生成效果优于现有技术。实验结果表明,SCGAN在ImageNet验证集上表现出色。
本文提出了一种基于视觉显著性的深度人脸识别解释框架,利用新算法CorrRISE生成显著性图,揭示人脸图像中的相似与不同区域。研究表明,该方法在可解释性和准确性上优于其他技术,有效解决了人脸识别中的“黑匣子”问题。
本文综述了Vision Transformer(ViT)可解释性研究进展,涵盖无需梯度的显著性图方法(如ViT-ReciproCAM)、3D目标检测注意力可视化、医学影像逐层相关传播、SM-ViT细粒度分类、EL-ViT交互式分析系统及IA-ViT可解释训练等,旨在提升ViT的透明度与信任度。
该研究提出了一种高效的可解释性AI显著性图方法,适用于深度卷积神经网络,精度相当或更好,可在资源有限的平台上使用。
完成下面两步后,将自动完成登录并继续当前操作。