RSA 2023创新沙盒盘点｜HiddenLayer：针对机器学习攻击的防护与响应平台
💡
原文中文，约6000字，阅读约需15分钟。
📝
内容提要
HiddenLayer是一家提供机器学习算法和模型安全解决方案的公司，其MLSEC PLATFORM包括三个核心产品：MLDR、Model Scanner和Security Audit Reporting。其服务可以为AI/ML服务提供商和用户提供定制的攻击面识别、攻击保护和攻击模拟能力。
🎯
关键要点
- HiddenLayer是一家提供机器学习算法和模型安全解决方案的公司，成立于2022年。
- HiddenLayer的MLSEC PLATFORM包括三个核心产品：MLDR、Model Scanner和Security Audit Reporting。
- HiddenLayer的创始团队来自Cylance，成立的契机源于一次对抗机器学习攻击事件。
- 人工智能技术的广泛应用伴随安全风险上升，2021年全球网络攻击造成6万亿美元损失。
- 针对机器学习系统的攻击技术研究活跃，相关开源工具和攻击框架不断增加。
- 传统网络空间威胁建模缺乏针对人工智能系统的适配，限制了攻击面的识别与分析。
- MITRE ATLAS和NIST AI RMF 1.0是描述人工智能系统风险的重要框架。
- HiddenLayer的核心产品MLSEC PLATFORM提供实时威胁检测、脆弱性识别和安全审计报告。
- HiddenLayer的咨询服务包括威胁建模、机器学习风险评估、专家培训和红队评估。
- HiddenLayer的MLDR技术旨在识别和防止针对机器学习系统的攻击，采用轻量级无侵入式设计。
- MLDR能够监控机器学习模型的输入和输出，提供早期攻击检测和响应措施。
- HiddenLayer的技术覆盖MITRE ATLAS框架的核心AI系统攻击面，整体覆盖率为100%。
- HiddenLayer的解决方案保护客户隐私，采用匿名化特征向量传输数据。
- HiddenLayer的技术构成了一套针对机器学习和人工智能系统的风险管控套件，具有较强的市场竞争力。
➡️
