可解释人工智能评估实际告诉我们什么？对 XAI 构建模块进行组合与上下文验证的案例
内容提要
本文探讨了可解释性人工智能（XAI）的评估方法，提出了一种基于使用情境的评估框架，强调用户需求。研究指出，现有算法评估不足，需综合考虑技术、法律和经济因素，以实现XAI的社会价值和商业效益。
延伸解读
从算法评估转向情境评估
文章指出，现有XAI评估方法往往只关注算法本身，而忽略了不同用户和任务对解释的实际需求。为此，研究提出基于使用情境的评估方法，并通过两项调查验证其更能满足用户需求。这提示从业者：评估解释质量时，不能只看技术指标，还要考虑谁在用、为何用、在什么场景下用。
多维度评估框架的构建
文章介绍了多个评估框架，包括内容、上下文、过程和结果四维度框架，以及12个概念性属性（如紧凑性、正确性）。这些框架试图将解释质量拆解为可评估的要素，并建立属性间的相互关系。对于希望系统化管理XAI的机构，这些框架提供了从技术到组织的结构化参考。
平衡可解释性与系统性能
文章强调，可解释性并非越高越好，而需在可行性、领域特征和风险考虑之间综合权衡。例如，在关键任务中可能需要更详细的解释，但这可能牺牲系统性能。因此，确定“适当”的解释水平需要结合具体情境，而非追求单一最优解。
社会效益与成本权衡
文章提出，解释只有在总社会效益大于成本时才具有社会价值。这一观点将XAI评估从技术层面扩展到法律、经济和社会层面。对于企业或监管者，这意味着采用可解释AI时，需评估其带来的信任提升、合规收益等是否超过开发与运行成本，从而做出更理性的决策。
Q&A
可解释性人工智能（XAI）的评估方法有哪些不足之处？
现有算法的评估方法对可解释性人工智能的不同用途缺乏考虑，未能充分满足用户需求。
如何建立一个有效的XAI评估框架？
可以通过内容、上下文、过程和结果的评估框架来帮助理解和管理可解释人工智能。
XAI的评估中有哪些关键的概念性属性？
提出了12个评估解释质量的概念性属性，如紧凑性和正确性。
用户中心评估框架的目的是什么？
旨在总结解释属性，建立相互关系，为XAI评估标准化做出贡献。
在评估XAI时需要考虑哪些因素？
需要综合考虑可行性、领域特征和风险，以平衡可解释性和系统性能。
可解释性人工智能的社会价值如何评估？
解释的社会价值在于总社会效益大于成本，选择解释输出的正确水平至关重要。
