无需人口统计实现皮肤疾病诊断的公平性
内容提要
该文综述医学图像分类中的公平性研究，指出AI在医学影像中可能对不同人群产生不公平预测。研究提出FairPrune剪枝、FairDisCo对比学习、Antigone伪敏感标签、FairSP半私密公平分类等方法，在保护隐私、缺乏敏感标签或属性嘈杂时缩小群体差距。研究还发现，较少编码人口统计属性的模型公平性更好，并强调公平与精度的权衡。
延伸解读
隐私与标签缺失下的公平性技术路线
文章综述的FairPrune、FairDisCo、Antigone、FairSP等方法，分别针对剪枝、对比学习、伪敏感标签和半私密设置等不同场景。这些方法共同指向一个现实问题：敏感属性标签往往难以获取或涉及隐私，公平性研究因此转向在标签缺失或嘈杂时仍能缩小群体差距。读者可关注这些方法各自的前提条件，而非将其视为通用解决方案。
人口统计编码越少，公平性反而可能更好
研究调查医学影像AI对人口统计属性的编码程度，发现较少编码人口统计属性的模型在新测试环境中往往表现出更好的公平性。这一发现提示，模型对敏感属性的隐式依赖可能损害跨环境泛化，而非简单增加人口统计信息就能提升公平性。不过，该结论基于特定测试环境，不宜直接推广为“去除人口统计信息即可公平”的通用原则。
公平与精度并非总是零和
FairPrune声称在不降低精度的情况下通过剪枝缩小群体差距，FairDisCo在皮肤数据集上同时提升公平性与性能。这些结果说明公平与精度存在可协调空间，但文章也强调公平与精度的权衡，并提及不确定性感知框架专门优化这一权衡。读者应留意，各方法的实验数据集和评估条件不同，实际部署时仍需结合具体场景验证。
Q&A
医学影像AI为什么会出现对不同人群的不公平预测？
文章指出，AI在医学影像中可能对不同人群产生不公平预测，原因包括模型对人口统计学属性的编码程度不同。研究发现，较少编码人口统计属性的模型往往表现出更好的公平性，而过度依赖这些属性可能导致群体间的预测差距。
FairPrune方法是如何在医学图像分类中实现公平性的？
FairPrune是一种深度学习方法，通过剪枝来降低敏感群体和非敏感群体之间的分类差距，同时不降低模型精度，从而实现公平的医学图像分类。
没有敏感属性标签时，如何训练公平的皮肤疾病诊断模型？
Antigone框架通过使用基于偏见分类器产生的伪敏感属性标签来训练公平分类器，无需真实敏感属性标签，同时最大化准确性和公平性。此外，FairDisCo通过对比学习和删除敏感属性，在缺乏敏感标签的情况下也能提升公平性。
FairDisCo在皮肤疾病诊断中解决了什么问题？
FairDisCo是一个基于深度学习的公平皮肤病诊断框架，通过对比学习和删除敏感属性等方法，有效解决了现有模型对较暗皮肤图像准确度低的问题。在Fitzpatrick17k和Diverse Dermatology Images数据集上，FairDisCo在公平性和性能上均优于其他三种公平性方法。
当敏感属性嘈杂或不完整时，如何保证公平分类？
FairSP框架在半私密设置下，借助少量干净敏感属性来纠正嘈杂的敏感属性，然后通过对抗方式共同模拟校正后的和干净的数据，实现去偏差和预测，并保证当大多数敏感属性是私密时的公平性。
公平性与模型精度之间是否存在权衡？如何平衡？
文章强调公平与精度之间存在权衡。例如，FairPrune旨在不降低精度的情况下缩小群体差距；而一项研究通过引入不确定性感知和属性分类器框架，在公平性-准确性权衡上取得显著优势，甚至超过对真实敏感属性约束训练的模型。
