外貌歧视：计算机视觉中的被忽视偏见
内容提要
本文探讨了计算机视觉中的偏见问题，提出了使用编码器-解码器网络进行人脸图像合成的方法，以测量算法的公平性。研究分析了不同模型在性别和种族方面的偏见，强调了开发更全面评估标准的重要性，以减少偏见并促进社会公平。
延伸解读
合成数据：偏见检测的新工具
文章提出使用编码器-解码器网络合成人脸图像，以测量计算机视觉分类器的反事实公平性。这种方法能主动操纵性别、肤色等属性，揭示属性变化与性能变化的因果联系。相比观察性数据集，合成数据属性更均衡，可预测新场景中的偏差，同时降低成本并规避道德法律难题，使偏见测试更普及。
商业模型未必更公平
研究比较学术与商业面部识别模型发现，学术模型在年龄和男性化性别上存在明显的种族和性别偏见，而商业模型在公平性方面表现也不理想。这表明商业部署并未自动解决偏见问题，反而可能因不透明而加剧风险。读者需警惕：技术成熟度与公平性并不正相关，评估时应同时关注两者。
GPT-4 Vision的偏见悖论
在疫苗接种和气候变化图像数据集上，GPT-4 Vision的性别分类技术准确性优于DeepFace和FER等传统模型，却对跨性别和非二元人格表现出歧视性偏见，情绪检测也严重偏向积极情绪，尤其对男性提示。这揭示了一个关键矛盾：技术指标领先的模型仍可能传播社会偏见，传统评估指标如精确度、召回率不足以捕捉此类伤害。
社会技术评估框架的必要性
文章强调，仅靠技术性能指标无法全面评估计算机视觉模型，需结合社会公平考虑。作者提出三个公平指标量化伤害和偏见，并定义精确实验方案。同时，AI生成器如Midjourney、Stable Diffusion和DALL·E 2在职业表征上存在系统性性别和种族偏见，以及面部表情的微妙偏见。这要求研究者采用社会技术框架，批判性评估工具在传播研究中的道德性和有效性。
Q&A
计算机视觉中的偏见主要表现在哪些方面？
计算机视觉中的偏见主要表现为性别和种族偏见，尤其是在面部分析算法中，模型在不同性别和肤色的表现存在明显差异。
如何测量计算机视觉分类器的公平性？
可以通过使用编码器-解码器网络进行人脸图像合成的方法来测量计算机视觉分类器的反事实公平性。
研究中提出了哪些公平指标来量化视觉系统的偏见？
研究提出了三个公平指标，以量化视觉系统的伤害和偏见，并定义了适用于各种计算机视觉模型的实验方案。
GPT-4 Vision在性别分类上表现如何？
GPT-4 Vision在性别分类的技术准确性方面优于其他模型，但存在对跨性别和非二元人格的歧视性偏见。
传统评估指标在计算机视觉中存在哪些局限性？
传统评估指标如精确度、召回率和准确率的局限性在于它们未能充分考虑社会公平的因素。
为什么需要开发更全面的评估标准？
需要开发更全面的评估标准，以解决计算机视觉模型中的有效性和歧视性偏见，确保技术的道德性和有效性。
