注意！GenAI 模型存在接管风险
💡
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
云安全提供商Wiz发现Hugging Face的AI模型存在架构缺陷，可能带来风险。攻击者可能利用共享推理基础设施和CI/CD管道进行供应链攻击和未经授权的活动。Wiz建议使用工具验证模型完整性，并谨慎下载模型。AI即服务公司需要与安全界合作建立安全基础设施。
🎯
关键要点
- Wiz发现Hugging Face的AI模型存在两个关键架构缺陷。
- 共享推理基础设施和CI/CD管道存在风险，可能被攻击者利用进行供应链攻击。
- 攻击者可能利用恶意的pickle序列化模型进行远程代码执行和跨租户访问。
- Wiz描述了攻击者可能利用这些风险的方法，包括错误预测和SQL注入。
- 目前只有极少数工具可用于检查AI模型的完整性，Hugging Face的Pickle Scanning可以帮助验证模型。
- 开发者在下载模型时需谨慎，以避免引入不受信任的代码。
- 这些风险不仅限于Hugging Face，许多AI即服务公司面临类似的挑战。
- 安全界应与AI即服务公司合作，建立安全基础设施以支持其快速增长。
❓
延伸问答
Hugging Face的AI模型存在哪些架构缺陷？
Hugging Face的AI模型存在共享推理基础设施和CI/CD管道的接管风险。
攻击者如何利用Hugging Face模型的缺陷进行攻击？
攻击者可能利用恶意的pickle序列化模型进行远程代码执行和跨租户访问。
开发者在下载AI模型时应该注意什么？
开发者在下载模型时需谨慎，以避免引入不受信任的代码。
目前有哪些工具可以检查AI模型的完整性？
目前只有极少数工具可用于检查AI模型的完整性，Hugging Face的Pickle Scanning可以帮助验证模型。
为什么AI即服务公司需要与安全界合作？
AI即服务公司需要与安全界合作，以建立安全基础设施，确保在快速增长的同时保护客户数据和代码的安全。
Wiz对AI模型的安全风险有哪些具体描述？
Wiz描述了攻击者可能利用错误预测和SQL注入等方式进行攻击的风险。
➡️
