提示词中间人攻击：威胁ChatGPT等AI系统的隐形威胁
💡
原文中文，约1700字，阅读约需4分钟。
📝
内容提要
新型“提示词中间人攻击”通过浏览器扩展窃取用户与AI工具（如ChatGPT、Gemini）的交互数据，攻击者可在无需特殊权限的情况下修改用户输入，导致敏感信息泄露。建议用户定期检查扩展，企业应严格监控和隔离AI工具与敏感数据。
🎯
关键要点
- 新型威胁：提示词中间人攻击通过浏览器扩展窃取用户与AI工具的交互数据。
- 攻击者无需特殊权限即可修改用户输入，导致敏感信息泄露。
- 提示词中间人攻击利用AI聊天机器人输入窗口的弱点，任何能访问DOM的扩展都能读取和修改请求。
- 攻击流程包括拦截文本、修改提示词和窃取数据，用户无法察觉。
- 该攻击适用于所有主流AI工具，如ChatGPT、Gemini、Copilot和Claude。
- 攻击可能导致敏感数据窃取、响应操控和安全控制绕过，企业用户风险更大。
- 99%的企业用户浏览器中至少安装一个扩展程序，风险敞口极大。
- 个人用户应定期检查扩展，避免安装不明来源的扩展，限制扩展权限。
- 企业用户应禁用或监控扩展，将AI工具与敏感数据隔离，采用安全监控和测试措施。
- 提示词注入是更广泛的威胁，可能通过无害内容操控AI。
- AI安全需涵盖用户界面和浏览器环境，简单的HTML字段可能成为系统弱点。
❓
延伸问答
什么是提示词中间人攻击？
提示词中间人攻击是一种通过浏览器扩展窃取用户与AI工具交互数据的攻击方式，攻击者可以在不需要特殊权限的情况下修改用户输入。
提示词中间人攻击的攻击流程是怎样的？
攻击流程包括用户在浏览器中使用AI工具时，恶意扩展拦截即将发送的文本，修改提示词并窃取数据，用户最终收到看似正常的回复。
这种攻击对企业用户有什么风险？
攻击可能导致敏感数据窃取、响应操控和安全控制绕过，尤其对处理机密信息的企业用户风险更大。
个人用户应该如何防范提示词中间人攻击？
个人用户应定期检查并卸载非必要的浏览器扩展，避免安装来源不明的扩展，并限制扩展权限。
企业用户应采取哪些措施来防护这种攻击？
企业用户应禁用或监控浏览器扩展，将AI工具与敏感数据隔离，并采用安全监控和测试措施。
提示词中间人攻击属于哪种更广泛的威胁？
提示词中间人攻击属于更广泛的提示词注入威胁范畴，是AI系统面临的严重安全风险之一。
➡️
