通过信念变化理论推进互动可解释人工智能
内容提要
本研究探讨可解释人工智能（XAI）的现状，提出新的定义和分类法，以标准化该领域。通过混合方法研究，发现用户希望获得实用信息以改善与AI的协作。研究强调机器解释应符合人类交流规范，并提出评估方法以提高模型的可理解性和透明性。最后，提出27个开放问题，强调XAI在现实应用中的挑战与发展需求。
延伸解读
从用户需求出发：XAI 应提供实用信息
文章通过混合方法研究发现，用户期望 XAI 提供实际有用的信息，以改善与 AI 的协作，包括校准信任、提高任务技能和调整输入行为。这提示 XAI 的设计不应仅追求技术上的解释合理性，而应关注用户的实际需求，确保解释能帮助用户更好地与 AI 互动。
评估 XAI：可解释性特定目标的重要性
文章指出，仅优化和评估机器解释的合理性可能有害于模型的可理解性、透明性与可信度。因此，需要采用可解释性特定的评估目标，并提出了可行的评估方法。这提醒研究者和开发者，评估 XAI 时应关注解释是否真正帮助用户理解模型，而非仅仅追求解释的表面合理性。
开放问题与未来方向：协作努力推动 XAI 发展
文章提出了 27 个开放问题，分为九类，强调了 XAI 在现实应用中的挑战和更广泛视角的需求。这表明 XAI 的发展需要跨学科协作和持续努力，以解决从理论到实践的诸多问题，推动 XAI 在现实世界中的成功应用。
Q&A
可解释人工智能（XAI）是什么？
可解释人工智能（XAI）是指能够提供透明和可理解的决策过程的人工智能系统，旨在帮助用户理解模型的输出和决策依据。
用户希望通过XAI获得哪些实用信息？
用户希望通过XAI获得实用信息以改善与人工智能的协作，包括校准信任、提高任务技能和改变行为以提供更好的输入。
研究中提出了哪些评估方法来提高XAI的可理解性？
研究提出了一些可行的评估方法，强调可解释性特定的评估目标的重要性，以提高模型的可理解性和透明性。
XAI在现实应用中面临哪些挑战？
XAI在现实应用中面临的挑战包括解释方法的多样性、用户需求的差异以及如何有效地与人类决策过程相结合。
研究中提出了多少个开放问题？
研究中提出了27个开放问题，这些问题被分类为九类，旨在推动XAI的发展和解决其面临的挑战。
如何评估不同用户类型的解释方法的适当性？
研究提出了一种基于系统论的用户中心分类法，以评估不同用户类型的解释方法的适当性和性能。
