T-HITL 有效解决图像生成中的问题关联并保持整体视觉质量
内容提要
本文综述人机协同机器学习研究，涵盖利用人类反馈提升模型鲁棒性与可解释性、HEIDL语言交互系统、艺术创作中的人机结合，以及文本到图像模型的社会偏见与伤害放大问题，强调包容性设计与公平性。
延伸解读
人机协同如何提升图像生成质量
文章指出，通过结合文本到图像生成模型与基于强化学习的人类反馈，可以标记不真实或不对齐的图像区域以及文本中被误代表或缺失的词。利用多模态变换器自动预测反馈，能进一步改进图像生成方法。这表明人类反馈信号在提升生成质量中起到关键作用，而自动化预测反馈则有助于提高效率。
文本到图像模型的社会偏见与伤害放大
文章提到，对DALLE-v2和Stable Diffusion等模型的研究发现，生成图像中存在严重的职业偏见和地理位置代表偏差。尽管增加提示细节可以缓解部分偏差，但可能无法解决图像质量或其他场景下的差异。此外，视觉语言模型在年龄、性别、肤色等方面存在有害标签关联，且模型规模增大可能增加有害预测的置信度。
包容性设计在人机协同系统中的重要性
文章强调，在设计人机协同系统时，应考虑个体工作者的特点，而非将工作者视为同质群体。例如，包容人像方法改善了面部验证中的性能，并突出了包容性设计对开发公平AI增强服务的意义。这提示我们，忽略个体差异可能导致系统性能下降或公平性问题。
Q&A
人类反馈如何帮助提升图像生成的质量？
通过结合文本到图像生成模型和基于强化学习的人类反馈，可以标记不真实或不对齐的图像区域以及文本中被误代表或缺失的词，并使用多模态变换器自动预测反馈，从而进一步改进图像生成方法。
什么是HEIDL系统？它有什么作用？
HEIDL是一种新型人机交互机器学习系统，可以通过高水平的、可解释的语言表达式与人交互，从而提高人类在模型预测、理解以及更新方面的参与度，并使得机器学习模型能够更好地应用于实际场景中。
文本到图像模型存在哪些社会偏见？
文本到图像模型存在严重的职业偏见和地理位置代表的日常情况偏差，例如在性别、年龄、种族和地理位置等方面的职业、人格特征和日常情况的生成图像中反映出社会偏见。
如何量化和解决文本到图像模型中的伤害放大问题？
研究使用形式化定义“harm amplification”，并开发了量化伤害扩大的方法，旨在解决Text-to-image模型中的安全问题，并在实际部署场景中检验了不同方法的效果，包括伤害扩大对不同性别的差异影响。
在艺术创作中如何结合人类专业知识与AI模型？
研究探讨了在艺术创作中将人类专业知识与AI模型相结合，以实现更具表现力、细腻和多模态的生成作品的方法，并提出Human-in-the-Loop的设计，以增加人类与AI之间的互动，从而帮助未来的AI系统更好地理解我们自己的创造和情感过程。
视觉语言模型在标签关联上存在哪些偏见？
视觉语言模型在年龄、性别、肤色和装饰品等方面存在有害标签关联频率的偏差，较暗肤色的个体更有可能被误分类，并且随着变压器编码器模型规模的增加，对有害预测的置信度也增加。
