BriefGPT - AI 论文速递
·
LinkPrompt：基于提示的语言模型的自然且通用的对抗攻击
💡
原文中文，约200字，阅读约需1分钟。
📝
内容提要
本文提出了一种基于令牌级别检测方法来识别对抗提示的方法，利用大型语言模型的能力来预测下一个令牌的概率，测量模型的困惑度并结合相邻令牌信息，以鼓励检测连续的对抗提示序列。方法包括将每个令牌识别为是否属于对抗提示的一部分，以及估计每个令牌属于对抗提示的概率。
🎯
关键要点
- 提出了一种基于令牌级别检测的方法来识别对抗提示。
- 利用大型语言模型预测下一个令牌的概率。
- 测量模型的困惑度并结合相邻令牌信息。
- 鼓励检测连续的对抗提示序列。
- 提出了两种方法：识别每个令牌是否属于对抗提示，估计每个令牌属于对抗提示的概率。
➡️
