迷失于能力中：评估解释对用户对视觉问答系统的心智模型的影响
原文中文，约1400字，阅读约需4分钟。
📝
内容提要
人工智能的发展要求开发者关注人机合作，并理解认知心理学的四个元素。研究表明，AI的有效解释能提升人类在协作任务中的表现，但在某些决策任务中需谨慎对待解释的实用性。过度依赖AI可能影响决策，适当的解释和用户干预能够改善这一现象。
🔎
延伸解读
解释效果因任务而异
文章指出，AI解释在协作任务中能提升人类表现，例如在ExAG游戏中，解释帮助用户更准确地猜测秘密图像。但在模型选择和反事实模拟等决策任务中，解释并未带来显著改进。这表明解释的有效性高度依赖任务类型，读者应避免将解释视为通用解决方案，而需根据具体场景评估其价值。
过度依赖与用户校准
文章探讨了用户对AI的过度依赖现象，并提出基于成本效益的策略模型来平衡解释的利弊。同时，实证研究发现自我高估的用户往往对AI依赖不足，而教程干预能有效校准其自我评估，促进适当依赖。这提示设计者需关注用户认知偏差，通过干预措施优化人机协作。
准确度与信任的权衡
文章强调，在机器学习中准确度比可解释性更重要，添加解释可能损害用户信任，且高度真实的解释并不能欺骗用户信任，用户的信任感与实际表现不符。这意味着追求可解释性时需谨慎，避免因解释不当而降低用户对系统的信任，设计者应权衡准确度与解释的副作用。
❓
Q&A
人工智能如何影响人机合作的设计？
人工智能的发展要求开发者关注人机合作，理解认知心理学的四个元素，以设计有效的解释。
有效的解释对人类在协作任务中的表现有什么影响？
有效的解释可以显著提高人类在协作任务中的表现，尤其是在AI解释其答案时。
过度依赖人工智能会带来什么风险？
过度依赖人工智能可能影响决策，导致用户在某些任务中表现不佳。
如何改善用户对人工智能的依赖？
适当的解释和用户干预能够改善对人工智能的依赖，帮助用户校准自我评估。
在决策任务中，解释的实用性如何？
在某些决策任务中，需谨慎对待AI解释的实用性，过度依赖可能导致误解。
用户信任与人工智能表现之间有什么关系？
研究表明，用户的信任感与实际表现不符，准确度比可解释性更重要。
🏷️
