研究揭示了为何分析医学图像的人工智能模型可能存在偏见
原文英文，约1700词，阅读约需6分钟。
📝
内容提要
麻省理工学院的研究表明，人工智能模型在医学诊断中使用种族、性别和年龄等特征，导致对女性和有色人种的诊断不准确。虽然重新训练模型可以减少偏见，但在不同医院的数据上效果不佳。研究者建议医院在使用这些模型前，需在自身患者群体上进行评估，以确保准确性。
🔎
延伸解读
偏见根源：模型依赖人口统计捷径
研究发现，AI模型在诊断时可能利用种族、性别和年龄等人口统计特征作为捷径，而非基于医学影像中的病理特征。这种捷径导致对女性和有色人种的诊断不准确。模型预测人口统计特征的能力越强，其公平性差距越大，表明模型在训练中学习了不期望的关联。
去偏方法有效但泛化性差
研究者尝试了两种去偏方法：子组鲁棒性和组对抗。在相同医院的数据上，这些方法能减少公平性差距且不显著影响整体性能。然而，当模型应用于其他医院的数据时，公平性差距再次出现，表明去偏效果难以跨机构泛化。
医院部署前需本地评估
由于去偏模型在不同患者群体上可能失效，研究者建议医院在使用外部AI模型前，应在本院患者数据上彻底评估其公平性和准确性。若条件允许，最好使用本院数据训练模型，以确保对不同人群的诊断可靠性。
❓
Q&A
人工智能模型在医学诊断中存在哪些偏见？
人工智能模型在医学诊断中使用种族、性别和年龄等特征，导致对女性和有色人种的诊断不准确。
如何减少医学图像分析中人工智能模型的偏见？
重新训练模型可以减少偏见，但效果最好是在与训练数据相同的患者群体上进行评估。
为什么人工智能模型在不同医院的数据上表现不佳？
这些模型在不同医院的数据上效果不佳，因为它们可能在训练时使用了特定患者群体的特征，导致在新数据上出现公平性差距。
研究者对医院使用人工智能模型有什么建议？
研究者建议医院在使用这些模型前，需在自身患者群体上进行评估，以确保准确性。
人工智能模型的公平性差距是如何产生的？
公平性差距产生于模型使用人口统计特征作为快捷方式进行诊断，导致某些群体的结果不准确。
哪些因素影响人工智能模型的准确性？
模型的准确性受到训练数据的多样性和患者群体特征的影响，尤其是在不同医院的数据上表现不佳。
🏷️
