该文综述大语言模型自解释研究,采用自洽性检查衡量解释忠实度,发现忠实度因任务和模型而异:情感分类中Llama2提供反事实解释,Mistral进行重要性度量,Falcon 40B的删除解释更忠实,且对提示变体稳健。此外还涉及解释评估、事实核查的依赖风险及神经符号增强伦理推理。
该文综述多项可解释人工智能研究:将因果编码进数据以提升解释可信度;发现低真实性解释会降低用户表现,糟糕解释比无解释更糟;GLocalX通过汇总局部解释构建简单可解释模型;提出基于删除的解释框架以统一26种方法;GALE聚合特征影响以提供全局洞见;归纳推理实现模型无关解释;发布视觉解释基准及评估流程;LIMASE用Shapley值快速提供局部与全局解释;LUX基于规则生成事实、反事实和视觉解释,优于LORE、EXPLAIN和Anchor。
本研究提出了一种新的局部模型无关解释评估方法,包括鲁棒性、基于合成数据集和可解释模型的地面真实性评估、模型随机化和人为评估。局部解释的评估仍是未解决的研究问题。
完成下面两步后,将自动完成登录并继续当前操作。