谷歌发布 HEAL 架构，4 步评估医学 AI 工具是否公平
内容提要
本文介绍了Google团队开发的HEAL框架，用于评估基于机器学习的医疗健康方案的公平性。HEAL框架通过四个步骤量化评估AI工具在不同群体中的性能差异，并提供改进建议。文章强调了AI技术在解决健康不平等问题方面的重要性，并提出了保证AI技术公平性的方法和措施。最后，呼吁多领域合作以确保AI技术发展符合社会整体利益。
延伸解读
HEAL 指标：如何解读公平性得分
HEAL 指标定义为 p(R > 0)，即 AI 工具优先考虑预先存在的健康差异的可能性。超过 50% 意味着更可能实现健康公平，低于 50% 则可能性较低。例如，性别维度得分 92.1%，种族/族裔 80.5%，而年龄维度为 0.0%。这一指标帮助量化 AI 对不同群体的公平程度，但需注意其基于统计估算，并非绝对结论。
年龄维度为何成为公平性短板
在皮肤科 AI 工具评估中，年龄维度的 HEAL 指标为 0.0%，远低于性别和种族/族裔。进一步分析显示，癌症条件的 HEAL 指标为 73.8%，而非癌症条件为 0.0%。逻辑回归表明，年龄和某些皮肤病条件（如基底细胞癌、鳞状细胞癌）对 AI 性能有显著影响。这提示年龄相关的健康差异在 AI 工具中可能被忽视，需针对性改进。
交叉性分析揭示的弱势群体
交叉性分析扩展了年龄、性别和种族/族裔的 HEAL 评估，整体 HEAL 指标仅为 17.0%。研究识别出在健康结果和 AI 性能两方面均排名较低的交叉点，包括 50 岁以上的西班牙裔女性、黑人女性、白人女性，20-49 岁的白人男性以及 50 岁以上的亚太裔男性。提高针对这些群体的 AI 工具性能对实现健康公平至关重要。
从健康公平到 AI 公平的 broader 挑战
文章指出，AI 公平性不仅限于健康领域，还涉及信息获取、在线教育和数字服务等。Google 已采取多项措施，如暂停开发与信贷有关的 AI 产品、审查大型语言模型研究等。未来需从公平的数据收集、消除算法偏见、公平性评估和持续监控等多角度干预，确保 AI 技术服务于不同背景人群，避免成为「马太效应」的推手。
Q&A
HEAL框架的主要目的是什么？
HEAL框架的主要目的是定量评估基于机器学习的医疗健康方案的公平性，以确保新兴健康技术能够减少健康不平等。
HEAL框架包含哪些评估步骤？
HEAL框架包含四个步骤：确定不公平因素、量化健康差异、测试AI工具性能、检测AI工具的公平性。
如何量化健康差异？
健康差异可以通过失能调整生命年（DALYs）、生命损失年数（YLLs）等指标来量化，描述不同群体之间的健康状态不平等。
AI工具在不同群体中的性能差异如何影响健康公平？
AI工具在不同群体中的性能差异可能导致某些群体在疾病预防、诊断和治疗方面受到不公平对待，从而影响健康公平。
Google在AI公平性方面采取了哪些措施？
Google采取了多项措施，包括公平的数据收集、消除算法偏见、进行公平性评估和持续监控，以确保AI技术的公平性。
未来如何确保AI技术的公平性？
未来需要从数据收集、算法设计、公平性评估和持续监控等多个角度进行干预与治理，以确保AI技术的公平性。
