BriefGPT - AI 论文速递 · 2024-03-04T00:00:00Z 梯度相关子空间学习对抗灾难性遗忘 💡 原文中文，约400字，阅读约需1分钟。 📝 内容提要 本文介绍了一种新的知识蒸馏技术，用于降低持续学习中的遗忘。该技术利用神经网络的潜在/输出空间的流形结构，并利用线性子空间来保持神经网络的知识。实验证明，该方法在多个具有挑战性的数据集上优于其他连续学习方法。 🏷️ 标签 子空间 持续学习 流形结构 知识蒸馏技术 神经网络 遗忘 阅读原文 生成长图 分享链接 已复制链接
