本研究探讨了机器学习服务中的模型提取攻击对隐私和可解释性的影响。通过差分隐私技术，研究了不同策略在模型训练和生成对比解释中的应用，结果表明合理运用差分隐私策略可有效提升隐私保护与可解释性，同时保持良好的预测性能。

在人工智能领域中，保护大型语言模型的知识产权变得关键。研究人员提出了一种新方法，在语言模型中嵌入可学习的语言水印，以追踪和防止模型提取攻击。该方法在鲁棒性和输出质量之间取得了平衡，并保留了模型的原始性能。

在人工智能领域中，保护大型语言模型（LLMs）的知识产权变得越来越重要。研究人员提出了一种新方法，在LLMs中嵌入可学习的语言水印，以追踪和防止模型提取攻击。该方法通过微妙地修改LLM的输出分布，嵌入可统计辨识的水印，平衡了鲁棒性和输出质量，并保留了LLM的原始性能。

嵌入式作为一种服务（EaaS）是自然语言处理（NLP）下游任务中广泛采用的特征提取解决方案。然而，先前的研究表明，EaaS可能容易受到模型提取攻击的影响。为了减轻这个问题，提出了一种新的CSE（聚类、选择、消除）攻击方法，以在保持嵌入式效率的同时去除水印。引入了一种名为WARDEN的新协议，通过整合多个可能的水印方向，使水印去除更加困难。实证证据表明，WARDEN有效地抵御了CSE攻击，并显著增加了水印的隐蔽性。

该研究探讨了针对机器学习即服务提供商所提供的API进行模型提取攻击的动机和实际意义。攻击者往往无法节约数据采集和标注成本，并且攻击成功与攻击者的先验知识密切相关。因此，对于预算有限的攻击者而言，模型提取攻击的实际意义值得商榷。研究提出了一种评估攻击策略的基准方案，明确将先验知识的影响与攻击策略分离。