BriefGPT - AI 论文速递
·
Stealing User Prompts from Mixture of Experts
原文英文，约100词，阅读约需1分钟。
📝
内容提要
本研究探讨了混合专家模型的安全隐患，提出了一种新攻击方式，通过将对抗者的查询与受害者的查询放在同一批次中，能够完全暴露受害者的提示信息。实验表明，仅需O({VM}^2)次查询即可提取完整提示。
🎯
关键要点
-
本研究探讨了混合专家模型的安全隐患。
-
提出了一种新攻击方式，通过将对抗者的查询与受害者的查询放在同一批次中，能够完全暴露受害者的提示信息。
-
实验表明，仅需O({VM}^2)次查询即可提取完整提示。
-
在所考虑的场景中，平均每个令牌只需100次查询，开创了提取用户提示的新攻击方法。
🏷️
