本研究探讨了代理在决策过程中如何战略性回应决策者模型。我们提出了一种新方法,利用局部解释来最大化决策者效用,同时保障代理福利,并通过实证结果验证了其有效性和安全性。
本研究提出了xai_evals框架,旨在评估机器学习模型后置局部解释方法的可靠性,以提高AI系统的可解释性和信任度。
本研究提出SHypX,一种超图神经网络的后处理解释器,旨在解决可解释性缺失的问题。SHypX通过优化采样的子超图提供局部和全局解释,实验结果表明其忠实度比基线提高了25个百分点。
该文综述了多种机器学习可解释性方法,包括LIPEx、MAPLE、SimplEx和CGX等框架,通过局部解释、特征扰动、示例选择和规则提取等技术提升模型透明度与解释质量,并在文本和图像任务中验证了有效性。
该文综述多项可解释人工智能研究:将因果编码进数据以提升解释可信度;发现低真实性解释会降低用户表现,糟糕解释比无解释更糟;GLocalX通过汇总局部解释构建简单可解释模型;提出基于删除的解释框架以统一26种方法;GALE聚合特征影响以提供全局洞见;归纳推理实现模型无关解释;发布视觉解释基准及评估流程;LIMASE用Shapley值快速提供局部与全局解释;LUX基于规则生成事实、反事实和视觉解释,优于LORE、EXPLAIN和Anchor。
本文介绍了一种基于绑架式解释的机器学习方法,用于计算神经网络模型的局部解释。该方法通过优化词汇子集和保持预测不变性来提高解释框架的效果,并通过配置不同的扰动集来检测预测结果的偏见。作者在三个情感分析任务上评估了该方法的有效性。
完成下面两步后,将自动完成登录并继续当前操作。