视觉-语言模型中的面孔社会认知
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
研究表明，基于CLIP模型的多模态视觉语义存在种族和性别偏见，尤其在生成图像时倾向于使用刻板印象，白人和男性个体表现尤为明显。评估多个模型发现，职业和地理位置的偏见也很严重。尽管提高提示的详细程度可以缓解偏差，但无法完全解决问题。研究强调需要监督和检查AI模型中的隐性偏见。
❓
Q&A
CLIP模型中存在哪些种族偏见？
CLIP模型默认将黑人-白人女性图像归为黑人，显示出种族偏见。
CLIP模型在性别标记上有什么倾向？
CLIP模型在男性个体上更倾向于使用性别标记，而在白人个体上更倾向于使用人标签。
如何缓解视觉-语言模型中的偏见？
增加提示的详细程度可以缓解偏见，但无法完全解决问题。
DALLE-v2和Stable Diffusion模型的偏见表现如何？
这两个模型存在严重的职业偏见和地理位置代表的日常情况偏见。
社会属性如何影响生成文本的内容？
输入图像中的社会属性显著影响生成文本的毒性和能力相关词汇。
研究中提到的隐性偏见如何影响AI模型？
隐性偏见影响AI模型的生成结果，导致刻板印象和有害内容的出现。
🏷️
