GradBias：揭示文本到图像生成模型中的词语影响偏见
内容提要
本文探讨了多模态模型中的偏见问题，提出了MMBias和OpenBias等评估框架，旨在识别和量化文本到图像生成模型中的社会偏见。研究表明，种族和性别等社会属性显著影响生成内容的偏见，强调了公平性的重要性及未来研究方向。
延伸解读
偏见评估方法的演进
文章梳理了从2020年到2024年偏见评估方法的发展：早期Grounded-WEAT和Grounded-SEAT将偏见度量扩展到图文嵌入，随后MMBias、GPTBIAS、OpenBias等框架不断涌现，评估对象从多模态模型扩展到文本到图像生成模型，评估方式也从封闭集向开放集发展。这一脉络显示该领域正朝着更全面、更自动化的方向演进。
社会属性对生成内容的显著影响
多项研究表明，输入图像或文本中的社会属性（如种族、性别、外貌）会显著影响模型生成内容的偏见程度。例如，大型视觉-语言模型生成的文本毒性和能力相关词汇会因输入图像中人物的社会属性而变化；文本到图像模型也会通过特定单词体现种族和性别刻板印象。这提示我们，模型偏见并非随机，而是与社会属性紧密相关。
评估基准与去偏方法的多样化
文章介绍了多种评估基准和去偏方法：MMBias基准用于评估自监督多模态模型的偏差，并提出去偏置方法；GPTBIAS利用大语言模型评估偏见并提供改进建议；OpenBias针对开放集偏见进行识别和量化；GenderBias-VL则专门评估职业相关的性别偏见。这些工具为检测和缓解偏见提供了多样化的手段，但各自适用范围不同。
局限与未来方向
文章指出，当前研究仍存在限制，例如偏见评估多集中于特定类型（如种族、性别），对交叉性偏见覆盖不足；评估方法虽多，但尚未形成统一标准。未来研究需进一步探索更全面的偏见检测与缓解策略，并关注模型偏见对少数群体边缘化的影响，以推动公平性。
Q&A
什么是MMBias基准数据集？
MMBias基准数据集用于评估自我监督多模态模型中的偏差，并介绍了一种去偏置方法。
文本转图像模型如何体现种族和性别偏见？
文本转图像模型通过特定单词的影响得分，生成图像时体现出种族和性别的偏见。
GPTBIAS偏见评估框架的功能是什么？
GPTBIAS框架利用LLMs评估模型偏见，提供偏见分数和改进建议。
OpenBias管道的目的是什么？
OpenBias旨在识别和量化文本到图像生成模型中的开放集偏见。
研究显示哪些社会属性影响生成文本的内容？
种族、性别和外貌特征等社会属性显著影响生成文本的毒性和能力相关词汇。
GenderBias-VL基准测试的主要发现是什么？
GenderBias-VL基准测试发现现有的LVLMs普遍存在性别偏见，涵盖了与职业相关的视觉问题。
