Tastle: 自动越狱攻击中的大型语言模型分散技术
内容提要
研究分析了大型语言模型（LLMs）的破解攻击，提出了多种攻击方法及防御策略。实验显示模型存在脆弱性，并提出有效的缓解措施，显著降低攻击成功率。此外，研究探讨了多模态语言模型（MLLMs）的越狱攻击，提供新算法和工具以增强模型安全性和对人类意图的一致性。
延伸解读
越狱攻击的多样性与模型脆弱性
文章汇总了多种越狱攻击方法，包括DRA、基于最大似然的图像越狱提示、遗传算法优化通用对抗提示等，这些方法在不同模型上取得了显著效果，如DRA在GPT-4上达到90%的攻击成功率。这表明当前大型语言模型即使经过对齐，仍存在可被利用的漏洞，攻击者可以通过黑盒或白盒方式绕过安全限制。
防御策略的有效性与局限
针对越狱攻击，研究提出了多种防御策略，如SmoothLLM通过随机扰动和聚合检测降低攻击成功率，微调缓解方法将多语言越狱攻击成功率降低96.2%，以及提示守卫等。这些防御措施在特定场景下有效，但文章也指出当前防御方法仍存在不足，例如ReNeLLM框架揭示了防御的弱点，说明安全防护需要持续改进。
多模态越狱的跨模型迁移风险
研究将越狱攻击扩展到多模态大型语言模型，提出的图像越狱提示（imgJP）具有强模型可迁移性，可黑盒迁移到MiniGPT-v2、LLaVA、InstructBLIP和mPLUG-Owl2等模型。这揭示了多模态模型面临的新安全威胁，且MLLM越狱与LLM越狱存在联系，攻击方法可相互转化，增加了安全防护的复杂性。
Q&A
大型语言模型（LLMs）面临哪些破解攻击？
大型语言模型面临越过社会伦理道德保障的破解攻击，存在多种破解方法和违规类别。
研究中提出了哪些防御策略来应对越狱攻击？
研究提出了一组有限的提示守卫和一种针对监狱突破攻击的防御策略，显著降低攻击成功率。
DRA黑盒越狱方法的效果如何？
DRA在各种模型上表现出90%的攻击成功率，尤其是在GPT-4上效果显著。
如何降低大型语言模型的攻击成功率？
通过实施新的语义保持算法和微调缓解方法，研究将攻击成功率降低了96.2%。
SmoothLLM算法的作用是什么？
SmoothLLM算法通过对输入的随机扰动和聚合进行检测，降低了攻击成功率并提供可证明的保证。
研究中对多模态大型语言模型（MLLMs）的越狱攻击有什么发现？
研究提出了一种基于最大似然的算法，能够在多个未知提示和图像上实现对MLLMs的越狱。
