通过基于 Hessian-Free 的个体数据统计回忆实现高效的在线遗忘
💡
原文中文,约400字,阅读约需1分钟。
📝
内容提要
本文介绍了一种基于噪声随机梯度下降的随机梯度Langevin遗忘框架,用于解决凸性假设下的近似遗忘问题。研究结果表明,小批次梯度更新提供了更好的隐私-复杂性权衡。实验结果显示,该方法在相同隐私限制条件下使用了较少的梯度计算,同时达到了类似的效果。
🎯
关键要点
- 用户数据隐私的法律保证中,'被遗忘的权利' 变得日益重要。
- 机器遗忘旨在高效去除特定数据点对训练模型参数的影响。
- 本文提出基于噪声随机梯度下降的随机梯度Langevin遗忘框架。
- 该框架为凸性假设下的近似遗忘问题提供了隐私保证的遗忘方法。
- 研究表明,小批次梯度更新在隐私与复杂性之间提供了更好的权衡。
- 该遗忘方法在算法上具有复杂性节省的优势,支持顺序和批次遗忘。
- 实验结果显示,在相同隐私限制下,该方法使用了较少的梯度计算,达到了类似的效果。
➡️