用于检索增强生成的大型语言模型的后门检索器与提示注入攻击
发表于: 。本研究探讨了针对检索增强生成(RAG)系统的提示注入攻击,旨在解决 RAG 组合大型语言模型和实时信息检索所带来的潜在威胁。文章提出了一种新颖的后门攻击方法,针对密集检索器的微调过程,实验结果表明,通过向检索器语料库注入少量受损文件,能够显著提高攻击成功率,这一发现对提升 RAG 系统的安全性具有重要意义。
本研究探讨了针对检索增强生成(RAG)系统的提示注入攻击,旨在解决 RAG 组合大型语言模型和实时信息检索所带来的潜在威胁。文章提出了一种新颖的后门攻击方法,针对密集检索器的微调过程,实验结果表明,通过向检索器语料库注入少量受损文件,能够显著提高攻击成功率,这一发现对提升 RAG 系统的安全性具有重要意义。