快速采用，隐含风险：大型语言模型定制的双重影响
内容提要
本文综述大语言模型安全研究，涵盖监管破解、多语言越狱、提示注入、后门攻击及隐私威胁。研究发现，将不安全英文译为低资源语言可绕过GPT-4防护，攻击成功率达79%，凸显跨语言漏洞风险，呼吁加强多语言红队测试与安全防护。
延伸解读
低资源语言成为安全短板
文章指出，将不安全的英文输入翻译成低资源语言后，可以绕过GPT-4的安全机制，攻击成功率达79%。这表明安全训练和红队测试存在语言不平等性，低资源语言因训练不足而成为漏洞。公开翻译API使攻击门槛降低，任何用户都可能利用这一漏洞，因此需要加强多语言安全防护。
定制化模型的安全代价
文章提到，对AI自定义GPT模型的提示注入分析显示，攻击者可能利用模型随机性进行目标劫持和提示泄露。在设计和部署可定制GPT模型时，必须优先考虑安全框架，否则定制化的便利可能以安全和隐私为代价。这提醒开发者在追求灵活性的同时不能忽视安全。
后门攻击的隐蔽威胁
文章综述了针对语言模型的后门攻击，包括BadGPT对强化学习微调的攻击，以及通过隐形触发器实施的NLP后门攻击。这些攻击能在维持正常用户使用的同时，以高成功率实现恶意目标，影响机器翻译、问答系统等任务。这凸显了模型供应链和训练过程中的安全风险。
Q&A
大型语言模型定制存在哪些安全风险？
定制GPT模型可能面临提示注入攻击，攻击者可以利用模型随机性进行目标劫持和提示泄露，导致安全和隐私风险。研究强调在设计和部署可定制GPT模型时，迫切需要强大的安全框架，以确保定制化的好处不会以安全和隐私的牺牲为代价。
什么是跨语言越狱攻击？
跨语言越狱攻击是指通过将不安全的英文输入翻译成低资源语言，从而绕过大型语言模型（如GPT-4）的安全机制。实验证明，这种攻击的成功率高达79%，甚至超过了最先进的越狱攻击。
为什么低资源语言更容易绕过LLM的安全防护？
因为大型语言模型对低资源语言的训练有限，导致安全防护机制在这些语言上较弱。攻击者利用公开的翻译API将不安全内容转换为低资源语言，即可规避模型的安全检查，成功率显著高于资源丰富或中等资源的语言。
针对LLM的后门攻击有哪些类型？
后门攻击包括针对强化学习微调的后门攻击（如BadGPT），通过注入后门到奖励模型来操纵生成文本；以及通过嵌入隐形触发器的NLP后门攻击，可影响有害评论检测、机器翻译和问答系统等任务，在维持正常用户使用的同时实施高成功率攻击。
如何防御大型语言模型的多语言安全漏洞？
研究呼吁加强整体红队测试工作，开发具有广泛语言覆盖能力的强大多语言安全保护措施。此外，通过自卫框架进行训练可以显著减少LLMs在多语言环境中生成的不安全内容。
大型语言模型对隐私有哪些威胁？
集成到OpenAI和New Bing API应用中的大型语言模型可能带来比以前更严重的隐私威胁。实验支持了这一观点，表明应用集成的LLM可能加剧隐私风险。
