面向成功用户决策支持的动态解释选择与可解释人工智能
内容提要
本文综述可解释AI研究，涵盖选择性解释框架、面向新手的子目标解释、自动驾驶解释偏好、评价型AI、元分析及XAI评估方法，探讨解释对信任、决策与鲁棒性的影响，并提出以用户为中心的设计原则与未来方向。
延伸解读
解释的“选择性”与用户偏好
文章指出，可解释AI在生成和消耗解释上存在差距，而基于人类交流行为启发的选择性解释框架，通过展示模型原因的子集来匹配受众偏好。实验证明，这种选择性展示能减少对AI的依赖，并提升决策结果和主观感知。这提示设计者不必追求全量解释，而应关注用户真正需要的信息。
子目标解释对新手用户的价值
针对非稳健智能决策支持系统，文章介绍了一种基于子目标的解释类型，作为传统输出的补充。研究表明，这种解释能提高新手用户的任务表现，帮助他们区分优化与非优化推荐，并在系统失灵时保持更鲁棒的表现。这说明解释设计需考虑用户专业水平，以增强决策韧性。
自动驾驶场景中的解释形式偏好
以自动驾驶汽车为对象的研究比较了决策树、文本、程序和图示四种解释方法。参与者主观上更倾向语言解释，但决策树解释更能客观地帮助理解汽车决策过程。此外，计算机科学经验和观察汽车成功或失败的经历会影响解释的感知和有用性。因此，XAI系统设计必须考虑用户特定需求和情境因素。
从XAI到评价型AI的范式转变
文章主张从现有可解释AI模型转向基于评价的AI（Evaluative AI），以减轻提供推荐对人类决策的限制，并更好地利用人类专业知识。同时，元分析显示XAI对用户决策性能有积极统计效应，但未表明解释对决策性能产生任何影响。这提示未来研究需关注非人类决策中的人类因素，并开发如XAI Test等评估方法。
Q&A
什么是可选择性解释框架？它如何帮助解决解释型AI的生成和消耗差距？
可选择性解释框架受人类交流行为启发，通过选择性地展示大量模型原因的子集，根据受众偏好来生成和消耗解释，从而解决解释型AI算法在生成和消耗解释方面的重大差距。实验证明其能减少对AI的依赖，提高决策结果和主观感知。
面向新手用户的非稳健智能决策支持系统中，基于子目标的解释有什么效果？
基于子目标的解释能补充传统智能决策支持系统的输出信息，提高用户任务表现，增强用户区分优化和非优化推荐的能力，获得用户喜爱，并在系统失灵时实现更鲁棒的用户表现。
在自动驾驶汽车中，用户更偏好哪种可解释AI方法？哪种方法更能帮助理解决策过程？
用户倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程。计算机科学经验和观察汽车成功或失败的情况会影响解释的感知和有用性，因此设计XAI系统必须考虑用户的特定需求和情境因素。
什么是评价型AI？它相比传统可解释AI模型有什么优势？
评价型AI主张从现有的可解释AI模型转变而来，以减轻提供推荐对人类决策制定的限制和认知过程考虑不足的问题，并更好地利用人类决策制定的专业知识。
元分析研究表明可解释AI对用户决策性能有什么影响？
统计元分析表明，可解释AI对用户决策性能有积极的统计效应，但并未表明解释对用户的决策性能产生了任何影响，这有利于今后研究基于AI的非人类决策中人类因素的影响。
XAI Test是什么？它如何评估解释器对决策的影响？
XAI Test是一种应用基准评估方法，旨在评估不同水平的信息提供对最终决策的影响。它针对现实世界的欺诈检测任务进行实验，并使用多种统计方法分析三种热门解释器的影响。
如何设计以用户为中心的可解释AI系统？有哪些指导原则？
文章提出了一种“自解释指南”方法，帮助开发人员通过启用自解释来赋能用户，并总结了一套经过实证基础、以用户为中心的设计原则，可以指导开发人员创建成功的解释系统。
AI解释的四个维度和XAI效应的五个维度分别是什么？
AI解释的四个维度是格式、完备性、准确性和时效性；XAI效应的五个维度是信任、透明度、可理解性、可用性和公正性。基于此开发了一个综合框架，并研究了其对用户行为的影响。
