MEGen：通过模型编辑在大型语言模型中生成后门
原文中文，约1400字，阅读约需4分钟。
📝
内容提要
本文探讨了大型语言模型的后门攻击脆弱性，提出了组合后门攻击（CBA）和新型后门攻击方法POISONPROMPT，强调安全性研究的重要性。研究表明，后门攻击在多种任务中有效，并提出了防御机制以降低攻击成功率。
🔎
延伸解读
后门攻击的演进与分类
文章系统地将后门攻击分为全参数细调、参数高效细调和无细调攻击三类，并指出未来研究需关注无需细调的攻击算法和更隐蔽的攻击算法。这反映了后门攻击技术正从依赖模型微调向更轻量、更隐蔽的方向发展，增加了防御难度。
防御策略的有效性与局限
文章提到多种防御机制，如REACT基线防御、蜜罐模块微调、SANDE和OSFT等，实验表明这些策略能将攻击成功率降低10%至40%。然而，防御效果仍受限于攻击的多样性和隐蔽性，且部分方法需要额外访问未受攻击的模型，实际部署中可能面临挑战。
定制化模型的安全风险
文章首次提出针对不受信任的定制大型语言模型（如GPTs）的指令后门攻击，攻击者通过设计带有后门指令的提示将后门嵌入模型，当输入包含预定义触发器时输出攻击者所需结果。这凸显了定制化模型在集成应用中的脆弱性，提醒开发者和用户需谨慎对待第三方模型。
❓
Q&A
什么是组合后门攻击（CBA）？
组合后门攻击（CBA）是一种将多个触发关键词分散在不同提示组件中的后门攻击方法，使攻击更加隐蔽。
POISONPROMPT方法的有效性如何？
POISONPROMPT在不同任务和语言模型上表现出高有效性、保真度和鲁棒性。
如何防御大型语言模型的后门攻击？
可以通过设计微调过程和使用蜜罐模块来吸收后门信息，从而防止后门创建。
后门攻击对定制大型语言模型的风险是什么？
后门攻击通过设计带有后门指令的提示，嵌入定制语言模型中，导致模型在特定触发条件下输出攻击者所需结果，显示出其脆弱性。
BadEdit攻击框架的优势是什么？
BadEdit攻击框架通过直接改变LLM参数引入后门，具有在多个注入技术方面的优越性。
后门攻击的分类有哪些？
后门攻击可以分类为全参数细调、参数高效细调和无细调攻击。
🏷️
