小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
NeurIPS 2024 | 如何防御对抗性提示攻击?AdvUnlearn让图片生成风险骤降

AdvUnlearn框架结合对抗训练与概念擦除技术,增强了扩散模型在概念擦除任务中的鲁棒性。通过优化文本编码器和引入保留效用正则化,成功抵御对抗性提示攻击,同时保持高质量图像生成。实验结果表明,AdvUnlearn在多种场景下表现优异,为生成模型的安全性提供了新思路。

NeurIPS 2024 | 如何防御对抗性提示攻击?AdvUnlearn让图片生成风险骤降

机器之心 机器之心 · 2024-10-27T05:47:41Z

本文提出了一种新颖的概念擦除方法,通过更新文本编码器和对抗训练,实现快速且自然的概念擦除。研究表明,现有方法无法完全抹除目标概念,强调了概念消除的脆弱性。所提出的框架在去除不良概念的同时,保留了模型性能,展示了概念表征的弹性和流动性。

ConceptPrune: 通过技能神经元修剪在扩散模型中进行概念编辑

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2024-05-29T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码