SANER：无注释社会属性中和器用于去偏见CLIP
内容提要
研究表明，视觉-语言模型存在社会偏见，影响图像生成和描述等任务。为解决这一问题，提出了多种去偏方法，如DeAR和Shortcut Debiasing，以提高模型的公平性和准确性。同时，研究强调数据集规模对偏见的影响，建议在使用预训练模型时关注数据策划，以减少社会偏见。
延伸解读
去偏方法多样，选择需因任务而异
文章梳理了多种视觉-语言模型去偏方法，如DeAR、Shortcut Debiasing、FairerCLIP等，它们分别从图像表示、特征替代和联合去偏等角度入手。值得注意的是，评估显示不同去偏方法在不同任务中的有效性存在差异，例如公平PCA在多数任务中表现良好但仍有性能损失。因此，实际应用中需根据具体任务选择合适方法，而非盲目套用单一方案。
数据集规模会放大社会偏见
研究发现，大型未筛选数据集会加剧视觉语言任务中的社会偏见，模型甚至能复现更精细的社会刻板印象。对43个CLIP模型的分析表明，数据集规模越大，模型对社会偏见的共享程度越高。这提示研究者和开发者在利用预训练模型时，必须重视数据策划，而非单纯追求数据量，否则可能无意中强化不公平代表。
评估工具本身也可能有偏差
文章指出，常用公平度量工具Bias@K存在偏见且不精确的问题。为此，有研究提出数据处理流程，通过性别平衡的对比集扩充COCO Captions数据集，证明多个CLIP模型中存在性别与图像背景的无意义相关性，并基于此提高了Bias@K的可靠度。这说明在去偏过程中，不仅要改进模型，还需审视评估指标本身的公正性，否则可能得出误导性结论。
Q&A
什么是DeAR去偏方法？
DeAR是一种新的去偏方法，通过学习加性残差图像表示来抵消原始表示，确保公正输出。
社会偏见如何影响视觉-语言模型的表现？
社会偏见在图像生成、描述和嵌入等任务中普遍存在，导致不公平的代表和资源分配不平等。
如何评估视觉-语言模型的公平性？
可以通过分类方法评估模型的偏差，并根据任务的主观性和目的进行定量公平性评估。
什么是Shortcut Debiasing方法？
Shortcut Debiasing是一种通过设计控制性替代特征来提高模型公平性和准确性的方法。
数据集规模对社会偏见有何影响？
大型未筛选数据集会导致视觉语言任务中的社会偏见持续存在，影响模型的公平性。
FairerCLIP方法的主要优势是什么？
FairerCLIP通过联合去偏置CLIP的图像和文本表示，提高了模型的公正性和抗干扰性。
