LinkPrompt：基于提示的语言模型的自然且通用的对抗攻击
原文中文，约1100字，阅读约需3分钟。
📝
内容提要
本文探讨了恶意提示模板构造方法（PromptAttack）在预训练语言模型中的安全性，验证了其有效性，并提出了多种对抗攻击技术和防御策略，旨在提升自然语言处理模型的安全性和性能。
❓
Q&A
什么是PromptAttack方法？
PromptAttack是一种恶意提示模板构造方法，用于探究预训练语言模型的安全性能。
PromptAttack方法的有效性如何验证？
通过对三个数据集和三个预训练语言模型进行广泛实验，验证了PromptAttack方法的有效性。
研究中提出了哪些新型对抗攻击技术？
研究提出了恶意Prompt构建、对抗样本生成和Prompt-based对抗训练等新型对抗攻击技术。
Prompt-based learning模式存在哪些漏洞？
发现Prompt-based learning模式的普适漏洞，特定触发器可以完全控制和降低其性能。
如何检测对抗提示？
提出了一种基于令牌级别检测的方法，利用大型语言模型预测下一个令牌的概率来识别对抗提示。
TrojPrompt框架的目的是什么？
TrojPrompt框架旨在解决基于Prompt学习的预训练语言模型API的后门攻击问题。
🏷️
