我们在健康工作中构建公平性的三种方式
内容提要
谷歌首席健康公平官推出了三项旨在促进健康公平的倡议。第一项是一篇研究论文，提供了识别和减轻医疗AI模型中偏见的框架。第二项是一个名为HEAL的框架，评估AI技术公平执行和预防不平等的可能性。第三项倡议涉及与斯坦福医学院合作，为皮肤科AI模型创建更具代表性的数据集，即皮肤状况图像网络。这些努力旨在为所有人建立一个更健康的未来。
延伸解读
医疗AI偏见评估的实用工具
文章介绍的研究论文提供了识别和减轻医疗大语言模型偏见的框架，并发布了七个对抗性测试数据集EquityMedQA。这些工具基于健康不平等文献、实际模型失败案例和公平专家的参与式输入，可用于评估模型是否延续历史偏见。对于开发者和研究者，这意味着有了可操作的方法来检测和缓解AI中的偏见，而不仅仅是理论探讨。
HEAL框架的四步评估流程
HEAL框架通过四个步骤评估AI技术的公平性：确定健康不平等相关因素并定义性能指标、识别和量化已有的健康结果差异、测量AI工具在每个子群体中的表现、评估AI工具优先考虑健康差异的可能性。该框架已用于测试皮肤科AI模型，发现模型在种族、族裔和性别子群体中表现公平，但在70岁及以上年龄组对非癌症疾病（如湿疹）的表现不佳。这表明公平性评估需要细分到具体疾病和人群。
SCIN数据集如何弥补代表性不足
当前许多皮肤科数据集缺乏代表性，图像多在临床环境拍摄，可能无法反映身体不同部位、严重程度、肤色、年龄和性别等多样性，且主要关注严重问题如皮肤癌。谷歌与斯坦福医学院合作创建的SCIN数据集包含超过10,000张真实世界皮肤病图像，由皮肤科医生和研究团队诊断并基于两种肤色量表标记。该开放数据集可用于开发识别皮肤问题的工具、开展研究和医学教育，帮助解决数据偏差问题。
Q&A
健康公平的目标是什么？
健康公平的目标是确保每个人都有公平的机会获得最佳健康水平。
谷歌推出了哪些促进健康公平的倡议？
谷歌推出了三项倡议，包括一篇研究论文、HEAL框架和与斯坦福医学院合作创建的皮肤科数据集。
HEAL框架的主要步骤是什么？
HEAL框架包括四个步骤：确定健康不平等因素、识别和量化健康结果差异、测量AI工具在各亚群体中的表现、评估AI工具在健康差异方面的表现优先级。
为什么当前的皮肤科数据集存在问题？
当前的皮肤科数据集缺乏代表性，主要集中在严重问题上，未能反映不同皮肤类型、年龄和疾病严重程度。
SCIN数据集的特点是什么？
SCIN数据集由斯坦福医学院合作创建，包含超过10,000张真实世界的皮肤病图像，涵盖多种皮肤类型和疾病。
谷歌如何评估医疗AI模型中的偏见？
谷歌通过一篇研究论文提供了识别和减轻医疗AI模型中偏见的框架，并使用七个对抗性测试数据集进行评估。
