本研究探讨了提示注入攻击引发的大语言模型防御过度问题,提出了评估数据集NotInject和新防护模型InjecGuard,显著降低了触发词偏见,表现优异。
完成下面两步后,将自动完成登录并继续当前操作。