本文提出了一种名为安全潜在扩散(SLD)的图像噪声过滤方法,旨在解决文本导向图像生成中的偏见和不当内容问题。SLD能够在不影响图像质量和文本对齐的情况下,去除不恰当的图像部分。同时,研究评估了文本到图像扩散模型的鲁棒性,发现新的脆弱性,并提出改进的概念去除方法,以有效抑制不安全图像的生成。
本文介绍了Imagin技术在文本到图像生成中的应用,利用大型transformer模型实现高保真图像生成。通过DrawBench基准测试,该技术在图像-文本对齐和样本质量上优于现有模型。研究提出了安全潜在扩散(SLD)方法,解决生成图像中的不当内容问题,并通过生成语义护理(GSN)和注意力机制提高图像真实性。此外,研究展示了如何通过软提示和对比引导方法增强模型的灵活性和控制能力。
本文探讨了文本到图像生成模型的安全性问题,提出了GuardT2I框架和安全潜在扩散(SLD)方法,以降低生成不当内容的风险。同时,介绍了SneakyPrompt攻击框架,展示其在生成不安全内容方面的优势。研究旨在提升T2I模型的鲁棒性,确保生成内容的安全性和适宜性。
完成下面两步后,将自动完成登录并继续当前操作。