应对生物医学中人工智能公平性和偏见的最新方法调查
内容提要
该文综述医学人工智能中的偏见与公平性问题，包括疾病分类器在人群亚组间的性能差异、数据中人类偏见对健康差距的放大、校准指标对样本量的系统性偏差，以及基于CART的偏见检测框架，并探讨联邦学习、模型解释等去偏技术，强调开发健壮、负责任的临床AI以促进健康公平。
延伸解读
偏见来源与健康差距的关联
文章指出，训练数据中嵌入的人类偏见可能放大现有的健康差异。例如，低诊断率导致不同人群亚组间疾病分类器性能出现差异。这提醒我们，医学AI的偏见不仅源于算法，更与数据收集和临床实践中的社会因素紧密相关。理解这一关联，有助于从源头识别并缓解不公平的医疗差距。
校准指标对样本量的敏感性
研究强调，通常使用的多种校准指标对样本量存在系统性偏差。如果未考虑这一点，可能导致错误的公平性分析。这意味着在评估模型公正性时，需谨慎选择指标并考虑样本量影响，否则可能得出误导性结论。这一发现对临床AI的公平性评估方法提出了重要警示。
去偏技术的多样性与应用
文章探讨了联邦学习、模型解释等新兴去偏技术，并提及基于CART的偏见检测框架。这些方法旨在识别和缓解数据和模型中的偏见。通过合成数据实验和电子病历实验，验证了部分框架的准确性和实用性。这表明，多技术结合有望提升临床AI的公平性和可靠性。
Q&A
医学人工智能中的偏见和公平性问题主要有哪些表现？
文章指出，医学人工智能中的偏见和公平性问题主要表现为：疾病分类器在不同人群亚组间的性能差异（如低诊断率导致的表现差异）；训练数据中嵌入的人类偏见可能放大现有的健康差异；以及评估模型公正性时存在的困难，例如常用校准指标对样本量存在系统性偏差，若未考虑可能导致错误的公平性分析。
有哪些方法可以检测医疗人工智能中的算法偏见？
文章提到，基于CART算法提出的创新框架可用于检测医疗人工智能决策支持系统中的算法偏见，并通过合成数据实验和格拉迪纪念医院的电子病历实验验证了其准确性和实用性。此外，还有基于软件工程原理的人工智能框架，用于识别和缓解数据和模型中的偏见与歧视。
联邦学习、模型解释等技术在去偏中有什么作用？
文章综述指出，联邦学习、分离和模型解释等新兴技术在AI-SaMD（人工智能软件作为医疗器械）发展中具有作用，可用于解决算法公正性问题，帮助减少临床工作流程中算法偏见导致的不公平医疗差距。
为什么校准指标会导致错误的公平性分析？
因为通常使用的多种校准指标对样本量存在系统性偏差。如果未考虑到这一点，可能会得出错误的公平性分析结论。
什么是bisinformation？
文章提出了一个以医学、社会学和反种族主义为灵感的公平人工智能框架，定义了一个新词bisinformation，鼓励研究人员研究它并使用AI研究、发现和减轻对社会中少数群体造成的有偏见、有害的或虚假健康信息，进而改善患者的结果和福祉。
如何开发健壮、负责任的临床人工智能以促进健康公平？
文章强调，通过系统性、客观地研究医学图像中的偏见对AI模型的影响，并评估偏见缓解策略在性能差异方面的有效性，可以支持开发健壮、负责任的临床人工智能。此外，需要识别和缓解数据和模型中的偏见，并在实际临床环境中测试和验证所提出的机器学习框架，以评估其在促进健康公平方面的影响。
