全球知名AI 平台Hugging Face “惊现”上百个恶意ML模型
💡
原文中文，约1300字，阅读约需3分钟。
📝
内容提要
JFrog发现了至少100个恶意AI ML模型实例，存在数据泄露和间谍攻击的重大风险。尽管有安全措施，但这些模型可以在受害者的机器上执行代码，为攻击者提供持久的后门。JFrog开发了先进的扫描系统来检测这些恶意模型，并发现其中一些具有有害的负载。这一发现凸显了保护生态系统免受恶意行为者的重要性，并提高了对AI ML模型安全风险的认识。
🎯
关键要点
- JFrog发现Hugging Face平台上至少100个恶意AI ML模型实例，存在重大安全风险。
- 这些恶意模型可以在受害者的机器上执行代码，为攻击者提供持久后门。
- 尽管Hugging Face采取了多种安全措施，但仍未能阻止安全事件的发生。
- JFrog开发了先进的扫描系统，专门用于检查Hugging Face上托管的模型，发现100个模型具有恶意功能。
- 恶意模型中发现的有效载荷能够建立反向外壳，执行任意代码。
- 有证据表明这些恶意模型的操作者可能是AI研究人员而非黑客。
- JFrog呼吁提高对AI ML模型安全风险的认识，并采取积极措施保护生态系统。
➡️
