RSA 2023创新沙盒盘点｜HiddenLayer：针对机器学习攻击的防护与响应平台

HiddenLayer是一家提供机器学习算法和模型安全解决方案的公司，成立于2022年。

HiddenLayer的MLSEC PLATFORM包括三个核心产品：MLDR、Model Scanner和Security Audit Reporting。

HiddenLayer的创始团队来自Cylance，成立的契机源于一次对抗机器学习攻击事件。

人工智能技术的广泛应用伴随安全风险上升，2021年全球网络攻击造成6万亿美元损失。

针对机器学习系统的攻击技术研究活跃，相关开源工具和攻击框架不断增加。

传统网络空间威胁建模缺乏针对人工智能系统的适配，限制了攻击面的识别与分析。

MITRE ATLAS和NIST AI RMF 1.0是描述人工智能系统风险的重要框架。

HiddenLayer的核心产品MLSEC PLATFORM提供实时威胁检测、脆弱性识别和安全审计报告。

HiddenLayer的咨询服务包括威胁建模、机器学习风险评估、专家培训和红队评估。

HiddenLayer的MLDR技术旨在识别和防止针对机器学习系统的攻击，采用轻量级无侵入式设计。

MLDR能够监控机器学习模型的输入和输出，提供早期攻击检测和响应措施。

HiddenLayer的技术覆盖MITRE ATLAS框架的核心AI系统攻击面，整体覆盖率为100%。

HiddenLayer的解决方案保护客户隐私，采用匿名化特征向量传输数据。

HiddenLayer的技术构成了一套针对机器学习和人工智能系统的风险管控套件，具有较强的市场竞争力。