本文讨论了基于大语言模型(LLM)的多智能体系统中的知识传播风险,提出了一种两阶段的攻击框架,通过植入和编造知识使智能体传播和改变认知。实验结果表明攻击成功率高,指出多智能体社区对不可信知识传播缺乏防御机制,未来工作可从预防和检测入手提升鲁棒性和安全性。
完成下面两步后,将自动完成登录并继续当前操作。