高退训比例下的最小梯度相关性机器反学习
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文介绍了一种基于噪声随机梯度下降的遗忘框架,用于去除训练模型中特定数据点的影响。该方法在保证隐私的同时,提供了与重新训练相似的效果。实验结果表明,小批次梯度更新在隐私和复杂性方面提供了更好的权衡。
🎯
关键要点
- 用户数据隐私的法律保证中,'被遗忘的权利' 变得日益重要。
- 机器遗忘旨在高效去除训练模型中特定数据点的影响。
- 本文提出基于噪声随机梯度下降的随机梯度 Langevin 遗忘框架。
- 该框架为凸性假设下的近似遗忘问题提供了隐私保证的遗忘方法。
- 小批次梯度更新在隐私和复杂性方面提供了更好的权衡。
- 遗忘方法在算法上具有复杂性节省的优势,支持顺序和批次遗忘。
- 实验结果表明,在相同隐私限制条件下,我们的方法使用了更少的梯度计算,达到了类似的效用。
➡️