小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究解决了时间序列分类模型解释性不足的问题,揭示了扰动评价法在不同类别间的显著差异,并提出了带类感知惩罚项的评估框架,以更准确地评估特征归因效果。

评估时间序列归因中的类依赖扰动效应

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-24T00:00:00Z

深度神经网络模型的优化过程展现出良好的泛化能力。研究揭示了损失函数的高维特性及其对训练动态的影响。通过实验和理论分析,探讨了损失景观的变化、模型解释性技术及其在实际应用中的重要性,并提出了多种算法以提高模型的有效性和稳定性。

在深度模型合并技术中寻找损失景观的共同点

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-16T00:00:00Z

本文研究了神经网络的复杂度、偏差-方差权衡及模型解释性。提出聚合解释方法以增强鲁棒性,定义纯交互作用以解决可辨认性问题,并开发Meta-ANOVA以提高模型可解释性,尤其在医学和金融领域表现突出。

神经ANOVA:可解释机器学习的模型分解

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-22T00:00:00Z

本文提出了一种新的可解释人工智能(XAI)评估方法,旨在提高复杂机器学习模型的可解释性。研究介绍了EXACT基准测试平台,结合多种数据集和评估指标,帮助研究人员比较不同的视觉解释技术。文章评估了14种指标在9种XAI方法上的应用,探讨了模型解释性和评估质量的问题,提供了支持XAI验证和比较的创新库和方法。

BEExAI:可评估可解释 AI 的基准

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-29T00:00:00Z

本文介绍了多种基于Grad-CAM的可视化技术,旨在提高对卷积神经网络(CNN)模型的理解和透明度。这些技术通过可视化重要输入区域,帮助用户建立对模型的信任,并评估其分类能力和解释性。研究还提出了Smooth Grad-CAM++和FM-G-CAM等新方法,增强了模型在物体定位和图像分类方面的解释性和准确性。

预期 Grad-CAM: 迈向梯度忠实度

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-03T00:00:00Z

本研究提出了一种新的归因算法IDG,解决神经网络模型的饱和问题,评估结果显示其在质量和量化上优于多种现有方法。此外,结合Integrated Gradients和PatternAttribution的PGIG方法在图像退化实验中表现最佳。研究还介绍了广义整合梯度和几何引导的积分梯度法,提升了模型的解释性。

综合梯度相关性:一种数据集层面的归因方法

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-04-22T00:00:00Z

本研究使用稀疏门控专家组技术解决大规模视觉语言模型训练中的挑战,并在等效计算成本下实现最先进性能的潜力。通过对模型解释性的影响和与VLM扩展计算性能之间的折衷,本文为大规模视觉语言模型的扩展提供了洞见,并激发了对MoE在其他多模态机器学习应用中的研究。

混合专家解开深度强化学习的参数缩放

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-13T00:00:00Z
模型解释性

模型解释性是提升系统性能的关键,帮助理解结果并确保可归因性,对实现通用人工智能(AGI)至关重要。

模型解释性

informal
informal · 2022-06-21T16:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码