从现网到靶场：2025云上AI安全事件深度复盘
内容提要
随着AI云应用的普及，安全风险显著增加。绿盟科技的报告分析了48起数据泄露事件，其中21起与AI相关。主要攻击面包括云配置错误、AI组件设计缺陷、提示词注入和云凭证失窃。攻击者利用这些漏洞窃取敏感数据，建议加强安全防护措施，如配置审计和权限管理，以降低风险。
关键要点
-
随着AI云应用的普及，安全风险显著增加，绿盟科技报告分析了48起数据泄露事件，其中21起与AI相关。
-
主要攻击面包括云配置错误、AI组件设计缺陷、提示词注入和云凭证失窃。
-
攻击者利用这些漏洞窃取敏感数据，建议加强安全防护措施，如配置审计和权限管理，以降低风险。
-
Deepseek公司因Clickhouse数据库配置错误导致聊天数据泄露，泄露规模达百万行日志。
-
LLM劫持攻击导致DeepSeek的20亿大模型Token被非法利用，攻击者通过窃取云凭证进行资源盗用。
-
微软SharePoint版Copilot AI漏洞被利用，攻击者窃取密码及敏感数据，事件源于设计缺陷和权限滥用。
-
ChatGPT Google Drive连接器漏洞曝光，攻击者通过提示词注入窃取用户敏感数据，攻击过程无需用户额外点击。
-
针对云基础设施配置错误、提示词注入、云凭证失窃等问题，提出了相应的安全建议，包括密钥管理和权限控制。
延伸问答
AI云应用的安全风险主要来源于哪些方面？
AI云应用的安全风险主要来源于云配置错误、AI组件设计缺陷、提示词注入和云凭证失窃等方面。
Deepseek公司的数据泄露事件是如何发生的？
Deepseek公司的数据泄露事件是由于其Clickhouse数据库配置错误，导致约一百万行的聊天记录和敏感信息被暴露。
LLM劫持攻击的主要机制是什么？
LLM劫持攻击主要通过窃取云凭证，利用反向代理服务非法访问和滥用LLM服务，导致资源盗用。
微软SharePoint版Copilot AI的漏洞是如何被利用的？
攻击者利用微软Copilot AI的设计缺陷，通过合法界面绕过权限限制，获取SharePoint中的敏感信息。
针对云基础设施配置错误，应该采取哪些安全措施？
应关闭所有AI服务的公网访问权限，进行配置审计，确保数据库和存储桶的权限设置正确。
提示词注入攻击对数据安全构成了怎样的威胁？
提示词注入攻击通过诱导AI模型执行恶意指令，可能导致敏感信息泄露，给数据安全带来严重挑战。
