谷歌的Gemini应用程序在生成敏感图像方面存在漏洞,用户可以轻易请求与历史事件和虚构角色相关的图像,如“飞机撞双子塔”或“白宫着火”。尽管有政策限制,但执行不严,可能导致误导公众和侵犯版权。
本研究提出了一种名为“羚羊”的越狱攻击策略,针对基于扩散模型的生成模型中的安全漏洞。该策略通过混淆敏感概念与相似概念,提高搜索效率,生成难以检测的敏感图像。实验结果表明,羚羊在多种防御机制下优于现有方法,验证了其有效性和灵活性。
完成下面两步后,将自动完成登录并继续当前操作。