FreeBuf网络安全行业门户 ·

联想聊天机器人漏洞事件凸显面向客户AI系统的安全盲区

Q: 联想在发现漏洞后采取了什么措施？

联想在研究人员披露漏洞后进行了修复。

💡 原文中文，约1400字，阅读约需4分钟。

📝

内容提要

联想的GPT-4客服系统'Lena'遭遇XSS攻击，攻击者可通过恶意提示词窃取会话cookie，导致未经授权访问。研究指出系统缺乏严格的输入输出过滤，存在安全隐患。专家建议将AI视为完整应用，进行专项测试并严格监控数据访问权限。

🎯

关键要点

联想的GPT-4客服系统'Lena'遭遇XSS攻击，攻击者可窃取会话cookie。
系统缺乏严格的输入输出过滤，易受跨站脚本(XSS)攻击影响。
攻击流程包括合法提示词诱导、HTML格式指令嵌入和恶意代码窃取cookie。
漏洞可能导致数据泄露、系统沦陷和钓鱼攻击等严重后果。
企业需将AI聊天机器人视为完整应用，实施专项安全测试。
建议采用'永不信任，始终验证'的数据处理原则，严格监控数据访问权限。
AI系统的风险特征不同，需在设计阶段融入安全性以平衡创新与合规风险。
联想已在漏洞披露后进行修复。

🔎

延伸解读

安全隐患的深远影响

联想的聊天机器人漏洞不仅导致会话cookie被窃取，还可能引发更严重的后果，如系统命令执行和后门安装。这提醒企业在部署AI系统时，必须充分考虑潜在的安全风险，避免将其视为实验性项目。

设计阶段的安全性考虑

专家强调，AI系统的设计阶段应融入安全性，以应对对抗性输入带来的不可预测行为。企业在追求创新的同时，需确保安全标准与其他关键应用一致，以降低合规风险。

数据访问权限的监管

文章指出，AI系统的数据访问权限管理至关重要。企业应实施'永不信任，始终验证'的原则，确保对数据的读取和编辑权限进行严格监控，以防止潜在的恶意攻击。

❓

延伸问答

联想的聊天机器人'Lena'遭遇了什么类型的攻击？

联想的聊天机器人'Lena'遭遇了跨站脚本(XSS)攻击。

攻击者是如何窃取会话cookie的？

攻击者通过恶意提示词诱导AI生成包含恶意代码的HTML内容，从而窃取会话cookie。

该漏洞可能导致哪些严重后果？

该漏洞可能导致数据泄露、系统沦陷和钓鱼攻击等严重后果。

企业在部署AI聊天机器人时应遵循哪些安全建议？

企业应将AI聊天机器人视作完整应用，实施专项测试，并采用'永不信任，始终验证'的数据处理原则。

联想在发现漏洞后采取了什么措施？