超智能还是迷信？探讨影响对AI预测信任的心理因素
内容提要
本文探讨了人工智能背景下人们对AI解释的理解，分析了反事实解释对因果信念的影响。研究表明，AI系统的解释方式会影响用户的信任和合作表现，强调信任与疑虑的独立性，并提出改进模型以减少偏见。此外，拟人化描述对信任评估的影响因人而异，提示需谨慎对待AI的拟人化。
延伸解读
反事实解释的因果误导风险
文章指出，提供AI预测的反事实解释会影响人们判断特征与结果之间是否具有因果性。实际上，AI系统只能捕捉相关关系而非因果关系。这种解释可能让用户误以为AI理解了因果机制，从而过度信任预测。研究提示，明确告知用户AI的局限性——即它只能发现相关性——可以减轻这种因果信念的偏差。对于AI开发者和使用者而言，在解释预测时需谨慎设计，避免强化错误的因果归因。
信任与疑虑：两个独立维度
文章强调，疑虑是独立于信任的第二个重要构想，心理测量证据支持两者的区别。这意味着，仅仅关注如何提升用户信任可能不够，还需要理解并管理用户的疑虑。XAI社区应开放地考虑信任和疑虑，以更全面地把握人机协作中的心理状态。对于设计AI系统而言，降低疑虑可能比单纯提高信任更能促进有效合作，尤其是在高风险场景中。
拟人化描述对信任的影响因人而异
研究发现，拟人化描述并不必然导致更高的信任。参与者整体上并不更信任拟人化的AI描述，而产品或系统类型与拟人化类别的结合影响更大。年龄是唯一显著的人口因素。用户在选择时还会考虑风险高低、两害相权等因素。这表明，拟人化是一个整体概念，对不同群体效果不同，不能简单认为拟人化就能提升信任。AI设计者应谨慎使用拟人化语言，避免引发过度信任或误解。
信心披露与协作表现的矛盾
文章揭示，披露AI表达的信心水平和性能反馈有助于识别信心不一致，但参与者往往会因此减少信任，拒绝AI建议，导致协作任务表现更差。这一发现提示，提高AI透明度可能带来信任下降的副作用。在人机协作中，如何平衡透明度与信任维护是一个关键挑战。设计者需要考虑反馈的方式和时机，以减少对协作表现的负面影响。
Q&A
人工智能背景如何影响人们对AI解释的理解？
人工智能背景会导致人们对AI解释的理解产生显著差异，影响他们的信任和合作表现。
反事实解释对因果信念有什么影响？
反事实解释会影响人们对AI系统预测的因果性判断，表明AI系统只能捕捉相关关系而非因果关系。
如何改进AI模型以减少用户偏见？
需要改进模型以考虑用户在代理人评估中可能使用的无关信息，从而减少偏见。
信任与疑虑之间的关系是什么？
信任与疑虑是独立的构想，理解这两者的关系对于XAI社区至关重要。
拟人化描述对信任评估的影响是什么？
拟人化描述对信任评估的影响因人而异，需谨慎对待AI的拟人化。
披露AI信心水平如何影响用户信任？
披露AI的信心水平和性能反馈可能导致用户信任减少，影响协作表现。
