注意！GenAI 模型存在接管风险
💡
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
云安全提供商Wiz发现Hugging Face的AI模型存在架构缺陷，可能带来风险。攻击者可能利用共享推理基础设施和CI/CD管道进行供应链攻击和未经授权的活动。Wiz建议使用工具验证模型完整性，并谨慎下载模型。AI即服务公司需要与安全界合作建立安全基础设施。
🎯
关键要点
- Wiz发现Hugging Face的AI模型存在两个关键架构缺陷。
- 共享推理基础设施和CI/CD管道存在风险，可能被攻击者利用进行供应链攻击。
- 攻击者可能利用恶意的pickle序列化模型进行远程代码执行和跨租户访问。
- Wiz描述了攻击者可能利用这些风险的方法，包括错误预测和SQL注入。
- 目前只有极少数工具可用于检查AI模型的完整性，Hugging Face的Pickle Scanning可以帮助验证模型。
- 开发者在下载模型时需谨慎，以避免引入不受信任的代码。
- 这些风险不仅限于Hugging Face，许多AI即服务公司面临类似的挑战。
- 安全界应与AI即服务公司合作，建立安全基础设施以支持其快速增长。
➡️
