MAP：面向源码自由的模型知识产权保护的 MAsk-Pruning
内容提要
本文研究了机器学习中的知识产权保护，提出了新的防护机制和数据集剪枝方法，以提高深度学习模型的安全性和效率。研究表明，水印技术和盲水印框架能够有效防止模型权益被侵犯，并在迁移学习中显著提升性能。
延伸解读
数据集剪枝在迁移学习中的突破
文章指出，现有的数据集剪枝方法不适用于迁移学习范式。为此，作者提出了标签映射和特征映射两种新方法，分别针对监督和自监督预训练。实验证明，源数据类别可剪枝40%至80%而不牺牲下游性能，预训练阶段实现2至5倍加速。这表明数据集剪枝能显著提升迁移学习效率，且方法具有广泛适用性，可改进对抗性预训练等计算密集型技术。
水印技术：模型知识产权保护的关键
文章综述了深度知识产权保护的水印和指纹技术，并提出了多种水印框架。例如，基于空间隐形水印的图像处理模型水印框架可抵抗不同网络结构和目标函数训练出的替代模型；基于盲水印的框架通过赋予特定标签生成水印，能有效应对逃避攻击和恶意主张；针对GAN的保护框架可抵御恶意复制、分享和重新分发，且不影响原始性能。这些技术为模型知识产权提供了实用保护手段。
护照感知规范化：平衡安全与结构
文章提出了一种具有护照感知能力的规范化公式，用于深度学习网络的知识产权保护。该公式通过公私分离的双重机制，在不影响原始目标网络结构的情况下实现保护，与传统防御方法相比具有更好的安全可靠性。这一方法为模型知识产权保护提供了新思路，尤其适用于需要保持模型原有性能的场景。
Q&A
机器学习中的知识产权保护有哪些新进展？
最新进展包括水印技术、指纹技术以及针对传输学习的数据集剪枝方法。
什么是标签映射和特征映射？
标签映射和特征映射是两种新的数据集剪枝方法，旨在提高预训练效率。
如何通过水印技术保护深度学习模型的知识产权？
水印技术通过在模型中嵌入隐形水印，防止模型权益被侵犯。
数据集剪枝能提高预训练效率吗？
是的，数据集剪枝可以在不牺牲下游性能的情况下，剪枝源数据类别达到40%至80%，实现2至5倍的加速。
盲水印框架如何应对逃避攻击？
盲水印框架通过将特定标签与普通样本结合生成水印，有效应对逃避攻击和恶意主张。
如何保护GAN模型的知识产权？
通过建立完整的保护框架，抵御恶意复制、分享和重新分发，同时不影响原始GAN的性能。
