解锁没有肯定短语的对抗后缀优化：通过大模型作为优化器的高效黑箱越狱
内容提要
本文探讨了大型语言模型（LLMs）面临的越狱攻击及其防御方法，提出了PAIR算法和ReNeLLM框架以提高攻击成功率并降低时间成本。同时介绍了SELFDEFEND防御框架，有效降低攻击成功率。研究揭示了当前防御的不足，并提出改进措施以增强LLMs的安全性。
延伸解读
攻击效率的显著提升
PAIR算法通过自动迭代优化提示，在少于二十次查询内即可成功越狱，相比传统方法大幅降低了查询成本。ReNeLLM框架进一步提高了攻击成功率并减少时间成本，而AmpleGCG模型能在几秒内生成数百个对抗后缀，攻击成功率接近100%。这些进展表明，越狱攻击正变得更加高效和自动化，对LLM安全构成严峻挑战。
防御框架的应对与局限
SELFDEFEND框架通过建立影子LLM防御实例，能有效防御现有越狱攻击，使GPT-3.5的攻击成功率平均下降60%，且对正常用户提示的延迟影响微乎其微。然而，研究也揭示了当前防御方法的不足，例如WordGame攻击和AutoBreach方法能够突破包括Claude-3、GPT-4和Llama-3在内的领先模型防护，说明防御仍需持续改进。
攻击与防御的持续博弈
从PAIR、ReNeLLM到WordGame和AutoBreach，攻击技术不断演进，而SELFDEFEND等防御框架也在尝试应对。这种博弈凸显了LLM安全对齐的脆弱性，以及开发更鲁棒防御机制的紧迫性。文章通过分类体系梳理了攻防方法，为未来研究提供了方向，但实际应用中仍需关注攻击的传递性和防御的泛化能力。
Q&A
什么是PAIR算法，它的主要功能是什么？
PAIR算法是一种用于生成黑盒访问的语义越狱的算法，能够自动生成越狱攻击目标模型的查询，通常只需少于二十次查询即可成功越狱。
ReNeLLM框架的目的是什么？
ReNeLLM框架旨在提高大型语言模型的攻击成功率并降低时间成本。
SELFDEFEND防御框架如何工作？
SELFDEFEND防御框架通过建立影子LLM防御实例来保护目标LLM实例，有效降低攻击成功率，同时对正常用户提示的延迟影响微乎其微。
当前大型语言模型的防御方法存在哪些不足？
当前的防御方法在保护大型语言模型方面存在不足，研究揭示了这些不足并提出了改进措施以增强安全性。
WordGame攻击和AutoBreach方法的目的是什么？
WordGame攻击和AutoBreach方法旨在打破大型语言模型的安全防御机制，以识别安全漏洞并提高破解成功率。
SelfDefend框架的效果如何？
SelfDefend框架可使GPT-3.5的攻击成功率下降8.97-95.74％，平均降低60％，对正常查询的影响微乎其微。
