InjecGuard:基准测试与缓解提示注入防御过度

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

本研究探讨了提示注入攻击引发的大语言模型防御过度问题,提出了评估数据集NotInject和新防护模型InjecGuard,显著降低了触发词偏见,表现优异。

🏷️

标签

➡️

继续阅读