本研究提出了BadSR方法,旨在解决图像超分辨率模型易受后门攻击的问题。该方法提高了被污染高分辨率图像的隐秘性,并确保对干净图像的修改保持在受限范围内。实验结果表明,该方法在多种模型和数据集上具有高攻击成功率,显著影响下游任务。
本研究提出了一种主动水印隐藏方法,利用对抗优化算法增强水印强度并保持隐秘性。实验结果表明,即使在严重篡改的情况下,水印仍可被验证,显示出优越的隐秘性。
研究提出新算法解决视觉语言模型的越狱攻击问题。通过隐秘感知攻击方法和Fano不等式分析,提升AI系统安全性。提出的跨模态信息检测器CIDER能识别恶意图像输入,增强模型安全性和鲁棒性。
本文综述多语言越狱攻击研究,提出语义保持算法构建数据集,评估GPT-4、LLaMa等模型,微调缓解使攻击成功率降低96.2%;还介绍SmoothLLM、生成利用攻击等方法,揭示多语言认知过载等漏洞,呼吁加强红队测试与对齐。
完成下面两步后,将自动完成登录并继续当前操作。