通过反翻译来抵御 LLMs 的越狱攻击
内容提要
研究提出语义保持算法构建多语言越狱攻击数据集，评估GPT-4和LLaMa等模型，微调缓解策略将攻击成功率降低96.2%。多项研究分析破解攻击与防御技术，提出SmoothLLM、ReNeLLM等框架，以及往返翻译防御和图像越狱提示方法，揭示LLM和MLLM安全漏洞，强调多语言环境防御训练的重要性。
延伸解读
多语言越狱攻击的防御突破
文章提出了一种语义保持算法来构建多语言越狱数据集，并评估了GPT-4和LLaMa等模型。通过微调缓解方法，攻击成功率降低了96.2%，表明针对多语言环境的防御训练能显著提升模型安全性。这一结果强调了在多语言场景下进行防御微调的必要性。
防御技术的多样性与效果
文章综述了多种防御技术，如SmoothLLM通过输入随机扰动和聚合降低攻击成功率，往返翻译（RTT）方法成功缓解了超过70%的社会工程攻击，并将MathsAttack的攻击成功率减少近40%。这些方法展示了不同防御策略的有效性，为LLM安全提供了实用参考。
多模态越狱的新挑战
研究还关注了多模态大型语言模型（MLLMs）的越狱攻击，提出基于最大似然的算法寻找“图像越狱提示”（imgJP），可迁移到MiniGPT-v2、LLaVA等模型进行黑盒越狱。这揭示了MLLM的安全漏洞，并建立了MLLM与LLM越狱之间的联系，提示需加强多模态防御。
Q&A
什么是多语言越狱攻击？
多语言越狱攻击是指利用多语言环境对大型语言模型进行越狱，使其绕过安全限制生成不安全内容。研究通过语义保持算法构建多语言越狱数据集，并评估了GPT-4和LLaMa等模型。
如何有效防御LLM的越狱攻击？
研究提出了多种防御技术，包括微调缓解方法、SmoothLLM算法、ReNeLLM框架、往返翻译（RTT）防御以及提示守卫等。其中微调缓解策略将攻击成功率降低了96.2%，RTT方法成功缓解了超过70%的攻击。
SmoothLLM算法是如何工作的？
SmoothLLM算法通过对输入进行随机扰动和聚合来检测攻击，从而降低攻击成功率，并在攻击缓解上提供了可证明的保证。
多模态大模型（MLLM）存在哪些越狱风险？
多模态大模型（MLLM）可能被图像越狱提示（imgJP）攻击，引导生成令人反感的响应。研究提出基于最大似然的算法寻找imgJP，并在MiniGPT-v2、LLaVA等模型上实现黑盒越狱，且具有强迁移性。
往返翻译（RTT）防御的效果如何？
往返翻译（RTT）方法能成功缓解超过70%的社会工程攻击，并将MathsAttack的攻击成功率减少近40%，是一种多功能、轻量级且可转移的防御算法。
在多语言环境中如何提升LLM的安全性？
实验显示，在多语言环境中通过自卫框架进行训练可以显著减少LLMs生成的不安全内容，强调了多语言环境防御训练的重要性。
