Unlearning as Multi-Task Optimization: A Normalized Gradient Difference Method with an Adaptive Learning Rate

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究探讨机器遗忘的优化问题,将其视为正则化的多任务优化。提出了归一化梯度差异(NGDiff)算法,以优化遗忘目标与模型性能之间的平衡,并在TOFU和MUSE数据集上验证了其优越性和稳定性。

🎯

关键要点

  • 本研究将机器遗忘视为正则化的多任务优化问题。
  • 提出了归一化梯度差异(NGDiff)算法,以优化遗忘目标与模型性能之间的平衡。
  • 通过理论分析和实证研究,验证了NGDiff算法在TOFU和MUSE数据集上的优越性和稳定性。
➡️

继续阅读