BriefGPT - AI 论文速递 · 2025-04-08T00:00:00Z

Mind the Trojan Horse: Image Prompt Adapter Facilitating Scalable and Deceptive Jailbreaking

📝

内容提要

本研究揭示了集成图像提示适配器的文本到图像扩散模型中存在一种新型越狱攻击——劫持攻击。该攻击通过上传不可察觉的对抗样本，劫持用户的图像生成服务。实验验证了攻击的可行性，并探讨了结合对抗训练模型的解决方案。

🏷️

标签

劫持攻击 图像生成 对抗样本 对抗训练 越狱攻击