💡
原文中文，约1600字，阅读约需4分钟。
📝
内容提要
最近的文本到图像生成器面临滥用风险。为此，提出了“潜在保护”方法，通过检测黑名单概念来阻止恶意输入，从而节省计算成本。该框架在多个数据集上验证，表现优异，有效防止不当内容生成。
🎯
关键要点
- 文本到图像生成器面临滥用风险，需采取安全措施。
- 提出了潜在保护方法，通过检测黑名单概念阻止恶意输入。
- 潜在保护方法在多个数据集上验证，表现优异，有效防止不当内容生成。
- 方法包括生成安全和不安全提示的数据集，利用预训练的文本编码器提取特征。
- 通过对比损失训练嵌入映射层，拉近不安全提示和概念的嵌入。
- Latent Guard在多个基准模型中表现优异，能够阻止所有测试提示。
- 在未见数据集上测试时，Latent Guard超越所有基准，表现稳健。
- 计算成本低，资源需求有限，处理时间和内存使用都很少。
- 特征空间分析显示安全和不安全区域的自然分布。
➡️
