多模态安全感知中的分歧模式洞察：来自多样化评估组的研究

BriefGPT - AI 论文速递 · 2024-10-22T00:00:00Z

本文探讨了文本到图像（T2I）模型的安全性，特别是“隐式对抗”提示。通过Adversarial Nibbler Challenge，研究人员发现14%的有害图像被错误标记为“安全”，并收集了超过10,000个提示-图像对。研究强调了持续审核和适应性的重要性，以增强T2I模型的鲁棒性。