黑客利用提示词注入严重篡改Gemini AI长期记忆

该攻击利用间接提示词注入和延迟工具调用,破坏了AI的长期记忆,使得攻击者能够在用户会话之间植入虚假信息。

谷歌Gemini Advanced聊天机器人遭遇复杂攻击,攻击者通过提示词注入和延迟工具调用破坏AI的长期记忆,植入虚假信息。这引发了对生成式AI安全性的担忧,可能导致误导信息、用户操控和数据泄露。尽管谷歌承认存在问题,专家认为系统仍有漏洞,需持续关注防范措施。

原文中文,约1300字,阅读约需3分钟。发表于:
阅读原文