本研究揭示了一种名为检索提示劫持攻击(HijackRAG)的新型安全漏洞,攻击者通过向知识数据库注入恶意文本,操控检索增强生成系统,导致生成错误答案。研究提出了针对不同攻击者的攻击策略,并通过实验表明HijackRAG在多种基准数据集上的成功率高,显示出其对RAG系统的广泛风险。
完成下面两步后,将自动完成登录并继续当前操作。