Unlearning as Multi-Task Optimization: A Normalized Gradient Difference Method with an Adaptive Learning Rate
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究探讨机器遗忘的优化问题,将其视为正则化的多任务优化。提出了归一化梯度差异(NGDiff)算法,以优化遗忘目标与模型性能之间的平衡,并在TOFU和MUSE数据集上验证了其优越性和稳定性。
🎯
关键要点
- 本研究将机器遗忘视为正则化的多任务优化问题。
- 提出了归一化梯度差异(NGDiff)算法,以优化遗忘目标与模型性能之间的平衡。
- 通过理论分析和实证研究,验证了NGDiff算法在TOFU和MUSE数据集上的优越性和稳定性。
➡️