高退训比例下的最小梯度相关性机器反学习

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文介绍了一种基于噪声随机梯度下降的遗忘框架,用于去除训练模型中特定数据点的影响。该方法在保证隐私的同时,提供了与重新训练相似的效果。实验结果表明,小批次梯度更新在隐私和复杂性方面提供了更好的权衡。

🎯

关键要点

  • 用户数据隐私的法律保证中,'被遗忘的权利' 变得日益重要。
  • 机器遗忘旨在高效去除训练模型中特定数据点的影响。
  • 本文提出基于噪声随机梯度下降的随机梯度 Langevin 遗忘框架。
  • 该框架为凸性假设下的近似遗忘问题提供了隐私保证的遗忘方法。
  • 小批次梯度更新在隐私和复杂性方面提供了更好的权衡。
  • 遗忘方法在算法上具有复杂性节省的优势,支持顺序和批次遗忘。
  • 实验结果表明,在相同隐私限制条件下,我们的方法使用了更少的梯度计算,达到了类似的效用。
➡️

继续阅读