针对大语言模型的通用对抗性攻击
💡
原文中文，约3900字，阅读约需10分钟。
📝
内容提要
研究人员使用贪婪和基于梯度的搜索技术相结合的方法，生成了一种对抗性攻击后缀，可以提高大语言模型产生肯定回应的概率，并生成恶意内容。该攻击后缀具有可迁移性，可以对黑盒和公开发布的大型语言模型进行攻击。研究者成功地将恶意内容引入多个语言模型，推动了对语言模型的对抗性攻击技术发展。
🎯
关键要点
- 研究人员关注大型语言模型可能生成恶意内容，开发者努力防止此类内容的生成。
- 尽管在防御攻击方面有所进展，但仍存在实际应用中的弱点。
- 本研究提出了一种新型对抗性攻击，通过添加对抗性后缀来引导模型生成恶意内容。
- 对抗性后缀具有可迁移性，能够攻击多种大型语言模型，包括黑盒和公开模型。
- 研究者在多个提示和模型上训练对抗性后缀，成功引入恶意内容。
- 攻击方法结合了肯定式回应、基于贪婪和梯度的离散优化，以及多提示、多模型攻击。
- 攻击设计的目标是优化对抗性后缀，使模型对用户查询做出肯定回应。
- 优化过程中使用贪婪坐标梯度搜索方法，评估可能的token替换以最大化攻击成功率。
➡️
