小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
超越黑箱:面向用户体验从业者的实用可解释人工智能

可解释人工智能(XAI)是数据科学家和设计师共同面临的挑战。为了赢得用户信任,必须提供透明的解释。文章介绍了特征重要性和反事实等实用设计模式,帮助用户理解AI决策。通过有效的用户研究,设计师可以确保解释满足用户需求,从而增强信任并减少偏见。

超越黑箱:面向用户体验从业者的实用可解释人工智能

Articles on Smashing Magazine — For Web Designers And Developers
Articles on Smashing Magazine — For Web Designers And Developers · 2025-12-05T15:00:00Z

本研究提出了一种新方法——距离解释器,旨在解决现有可解释人工智能在嵌入向量空间中的解释性不足。该方法通过选择性屏蔽和距离排名生成局部解释,实验证明其在识别特征相似性和差异性方面具有高度鲁棒性,从而提升了深度学习的透明性和可信度。

可解释嵌入的距离解释器

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-21T00:00:00Z

本研究探讨了因果推断与可解释人工智能中反事实的使用差异,提出了反事实的正式定义,并分析了其在这两个领域的应用,促进了CI与XAI的融合。

From Hypothesis to Insight: Counterfactuals in Causal Inference and Explainable Artificial Intelligence

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-19T00:00:00Z

本研究提出了一种新方法,解决了可解释人工智能框架中对预测不确定性忽视的问题。通过使用比例Shapley值,将预测不确定性归因于输入特征,从而提升高风险机器学习应用的理解与沟通效果。

Revealing the Sources of Uncertainty: The Contribution of Features to Predictive Interval Compliance

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-19T00:00:00Z

本研究提出了一种基于贝叶斯推断的动态伙伴模型,用于对话系统中的自适应解释生成。该模型通过非平稳马尔可夫决策过程持续更新,以提高对不同受众的适应性,改善可解释的人工智能系统。实验结果表明该方法有效。

SNAPE-PM: Building and Utilizing Dynamic Partner Models for Adaptive Explanation Generation

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-19T00:00:00Z

PnPXAI框架解决了现有可解释人工智能(XAI)在不同神经网络和数据模式下的局限性。该框架能够自动检测模型架构、推荐解释方法并优化超参数,从而提升了解释的灵活性和有效性,适用于医疗和金融等多个领域。

PnPXAI: A Universal Explainable AI Framework for Providing Automatic Explanations Across Diverse Modalities and Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-15T00:00:00Z

本研究提出了一种结合多种梯度提升模型的堆叠集成框架,用于金融欺诈检测,解决了传统模型缺乏透明性的问题。通过可解释人工智能技术,该模型在准确率和AUC-ROC评分上均达到99%,提升了决策的透明性和可信度。

Financial Fraud Detection Using Explainable AI and Stacking Ensemble Methods

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-15T00:00:00Z

本研究探讨了可解释人工智能(AI)的最新进展,重点关注提升AI算法透明度的伦理因素和技术手段。可解释性与自主系统元推理之间存在紧密联系,这将推动未来可解释AI系统的发展。

The Latest Advancements and New Trends in Explainable Artificial Intelligence

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-11T00:00:00Z

本研究探讨了可解释人工智能(XAI)中隐私与可解释性之间的矛盾,提出了一种隐私保护解释框架,以帮助理解符合隐私要求的XAI特征,并提供实现隐私保护XAI的建议。

Privacy Risks and Protection Methods in Explainable Artificial Intelligence: A Scoping Review

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-05T00:00:00Z

本研究提出了一种可解释的人工智能解决方案,针对大型语言模型的安全威胁,设计了XBreaking越狱攻击,通过目标噪声注入突破安全限制,强调了审查机制的重要性。

XBreaking: An Explainable AI for Jailbreaking Large Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-30T00:00:00Z

本研究提出了一种新方法,将不确定性估计技术融入反事实解释中,以提高其真实性。结果表明,传统方法显著降低了预测误差,增强了反事实的科学价值,特别是在处理不符合分布的数据时,突显了其在可解释人工智能中的重要性。

Improving the Authenticity of Counterfactuals in Molecular Property Prediction through Uncertainty Quantification

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-03T00:00:00Z

本研究提出HU-MCD方法,克服了传统可解释人工智能在多维概念发现中的局限性。通过Segment Anything Model和CNN输入掩码技术,显著提升了概念的可理解性和解释一致性,实验结果表明其解释更加精准可靠,具有实际应用潜力。

迈向人类可理解的多维概念发现

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-24T00:00:00Z

本研究探讨了反事实解释在可解释人工智能中的应用,提出了一种将其重构为能量最小化问题的新框架。结合扰动理论和统计力学,实验结果表明该方法能够提供可操作的反事实解释,增强对模型敏感性和决策边界的理解。

Exploring Energy Landscapes for Minimal Counterfactual Explanations: Applications in Cybersecurity and Beyond

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-23T00:00:00Z

本研究提出了一种基于范畴的解释函子的方法,以提高可解释人工智能的解释一致性和可靠性。验证结果表明,该方法在合成基准测试中有效减少了矛盾和不忠实的解释生成。

Logic Explanation of AI Classifiers through Categorical Explaining Functors

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-20T00:00:00Z

本研究提出了一种名为HyConEx的新型分类模型,旨在提升可解释人工智能的决策理解能力。HyConEx利用深度超网络架构,提供准确的分类预测,并生成反事实示例,以解释影响模型结果的关键特征,兼具高效分类性能和良好可解释性。

HyConEx: Hypernetwork Classifier with Counterfactual Explanations

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-16T00:00:00Z

本研究提出了一种名为Poem的可解释人工智能模型,旨在提高时间敏感场景下的可解释性。该模型通过生成示例、反示例和显著性图,提供快速有效的解释。实验结果表明,Poem在速度和生成细致示例方面优于前代模型Abele。

Explainable AI in Time-Sensitive Scenarios: Prefetched Offline Explanation Model

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-06T00:00:00Z

本研究提出了一种新的理论框架,利用数学模型p-Conv有效识别自然数同余类,揭示神经网络行为的成功与失败模式,为可解释人工智能提供新视角。

Prime Convolution Model: Pioneering New Horizons for Theoretical Interpretability

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-04T00:00:00Z

本研究提出了一种基于可解释人工智能的优化控制系统,旨在降低注塑成型过程中的缺陷率。通过使用XGBoost和LightGBM算法,产品缺陷率显著降低至0.21%(XGBoost)和0.13%(LightGBM),提升了产品质量。

Enhancing Product Quality in the Injection Molding Process Using Explainable Artificial Intelligence

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-04T00:00:00Z

该研究探讨了深度语言模型与大脑神经活动的对齐,结合可解释人工智能方法,揭示了大脑语言处理的层次结构及其与模型的关系,为理解语言理解的神经机制提供了新工具。

深度语言模型的解释解析大脑中的语言表征

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-20T00:00:00Z

本研究提出了一种新的成对Shapley值框架,旨在解决可解释人工智能中的可解释性和可扩展性问题。该方法通过比较特征归因与数据实例对,提供更直观的解释,降低计算开销,提升XAI的实际应用能力。

From Abstraction to Action: Pairwise Shapley Values for Explainable Artificial Intelligence

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-18T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码