工业机器人中的人机交互：可解释 AI 基于机器人程序优化的用户界面设计与实证评估
内容提要
该论文系统调查了53篇关于可解释人工智能（XAI）和可解释界面（EI）的研究，强调用户需求和情境因素对XAI设计的重要性，并提出以用户为中心的框架和方法，促进心理科学与XAI的结合，以推动负责任的人工智能技术发展。
延伸解读
用户偏好与客观理解之间的张力
文章指出，在自动驾驶场景中，参与者倾向于语言解释，但决策树解释更能帮助其客观理解决策过程。这提示设计XAI系统时不能仅凭用户主观偏好选择解释形式，而应兼顾理解效果。同时，计算机科学经验和观察汽车成功或失败的经历会影响解释的感知和有用性，说明用户背景与情境因素必须纳入设计考量。
从算法中心到用户中心的范式转变
多项研究共同指向一个趋势：XAI正从单纯解释算法转向以用户为中心的设计。例如，通过访谈UX从业者识别算法工作与产品实践之间的差距，并提出扩展的XAI问题库；以及提出基于互动的可解释AI方法，让用户通过修改图像观察分类结果变化，从而对齐心智模型与模型逻辑。这些方法强调用户参与和理解，而非仅提供技术解释。
评估与最佳实践的初步共识
文章提到一项系统文献综述评估了85篇基于XAI评估的核心论文，对解释方法的可信、可懂、公平、可用性和人工智能团队表现等进行了归类，并提出了设计和进行XAI用户研究的最佳实践指南。这表明该领域正在形成评估框架，但作者也强调需要将心理科学与以人为中心的XAI联系起来，并指出了多个开放研究方向。
面向负责任AI的研究范式呼吁
文章介绍了四个新的可解释人工智能技术问题，围绕设计和评估算法，并呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以保证人工智能在关键任务中的负责任使用。这反映出XAI研究不仅关注技术实现，更强调以人类需求为基础，确保AI在关键任务中的可靠与负责。
Q&A
可解释人工智能（XAI）和可解释界面（EI）的研究有哪些最新趋势？
该论文系统调查了53篇相关研究，介绍了XAI和EI的最新趋势，旨在提高系统的可用性和用户体验设计效果。
设计XAI系统时需要考虑哪些用户需求？
设计XAI系统时必须考虑用户的特定需求和情境因素，以确保系统的有效性和用户体验。
参与者对可解释AI的解释方式有什么偏好？
研究表明，参与者倾向于使用语言解释，但决策树解释更能客观理解决策过程。
如何通过用户互动提升可解释AI的可用性？
通过用户互动，可以修改图像观察分类结果变化，使用户理解模型决策过程，从而提升可用性。
该研究对未来的XAI研究提出了哪些建议？
研究呼吁建立基于人类需求的可解释人工智能技术开发研究范式，以确保负责任的人工智能使用。
心理科学在XAI设计中扮演什么角色？
心理科学与XAI结合，提供人本方法，帮助改善XAI的设计、评估和用户体验。
