通过基于 Hessian-Free 的个体数据统计回忆实现高效的在线遗忘

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

本文介绍了一种基于噪声随机梯度下降的随机梯度Langevin遗忘框架,用于解决凸性假设下的近似遗忘问题。研究结果表明,小批次梯度更新提供了更好的隐私-复杂性权衡。实验结果显示,该方法在相同隐私限制条件下使用了较少的梯度计算,同时达到了类似的效果。

🎯

关键要点

  • 用户数据隐私的法律保证中,'被遗忘的权利' 变得日益重要。
  • 机器遗忘旨在高效去除特定数据点对训练模型参数的影响。
  • 本文提出基于噪声随机梯度下降的随机梯度Langevin遗忘框架。
  • 该框架为凸性假设下的近似遗忘问题提供了隐私保证的遗忘方法。
  • 研究表明,小批次梯度更新在隐私与复杂性之间提供了更好的权衡。
  • 该遗忘方法在算法上具有复杂性节省的优势,支持顺序和批次遗忘。
  • 实验结果显示,在相同隐私限制下,该方法使用了较少的梯度计算,达到了类似的效果。
➡️

继续阅读