基于隐式提示的文本到图像模型的研究
原文中文,约600字,阅读约需2分钟。发表于: 。最近的文本到图像(T2I)模型取得了巨大的成功,并提出了许多基准来评估其性能和安全性。然而,它们只考虑了显性提示而忽视了隐性提示(暗示目标而没有明确提及)。这些提示可能摆脱安全约束,并对这些模型的应用构成潜在威胁。本文强调了 T2I 模型在隐性提示方面的现状,提出了一个名为 ImplicitBench 的基准,并对隐性提示对流行的 T2I...
最近的文本到图像(T2I)模型取得了巨大的成功,并提出了一个名为ImplicitBench的基准来评估其性能和安全性。实验结果表明,T2I模型能够准确地创建由隐性提示指示的各种目标符号,但隐性提示也给模型带来了隐私泄露的潜在风险,并且大多数模型中的NSFW约束可以通过隐性提示绕过。呼吁T2I社区更加关注隐性提示的潜力和风险,并进一步调查其能力和影响。