主题建模及下游任务中的可证明遗忘

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种机器忘记算法,探讨了在预训练和微调框架中主题模型的可证明性忘记,并设计了有效算法以删除训练数据而不显著影响模型性能。

🎯

关键要点

  • 本研究提出了一种机器忘记算法,解决法律问题日益突显的机器忘记需求。
  • 探讨了在预训练和微调框架中主题模型的可证明性忘记。
  • 设计了一种有效算法,允许在不显著损害模型表现的情况下删除训练数据。
  • 展示了微调后更容易忘记特定任务的预训练数据。
➡️

继续阅读