本研究揭示了一种新漏洞“检索提示劫持攻击”(HijackRAG),攻击者通过注入恶意文本操控RAG系统,导致生成错误答案。研究提出了黑箱和白箱攻击策略,显示该攻击在多种数据集上成功率高,风险广泛。
完成下面两步后,将自动完成登录并继续当前操作。