在连续学习中利用测试时间数据控制遗忘
内容提要
本研究探讨了“表示忘却”在连续学习中的影响，提出通过有监督对比学习构建旧样本原型以减少遗忘。引入适应性记忆回放框架，动态选择训练数据，减少遗忘达10%。提出CTR模型和CUBER方法，解决灾难性遗忘和知识迁移问题，实验结果显示其有效性。此外，CORE方法通过自适应数据选择显著提高模型在新任务学习中的表现。
延伸解读
表示忘却：连续学习中被忽视的维度
文章指出，模型表示在没有明确控制忘却的情况下，通常只经历较小的表示忘却，有时甚至与明确控制忘却的方法相当，尤其在长任务序列中。这表明表示忘却并非灾难性遗忘的主因，但会影响模型容纳能力和损失函数设计。读者可关注表示忘却的度量方式及其对连续学习策略的启示。
适应性记忆回放：动态数据选择的效益
基于多臂赌博机的适应性记忆回放框架，通过动态选择训练数据，在保持高性能的同时减少遗忘达10%。这提示我们，回放策略不必固定，可根据任务需求自适应调整。对于资源有限的场景，这种动态选择能提升效率，但需注意其在不同任务序列长度下的泛化性。
预训练模型与语义监督：CTR模型的思路
CTR模型利用预训练语言模型的语义知识替换分类器，生成类别语义目标作为监督信号，以缓解灾难性遗忘并促进知识迁移。实验证明其有效性。这一思路将连续学习与预训练模型结合，为知识迁移提供了新途径，但需考虑预训练模型领域与任务领域的匹配度。
CORE方法：自适应数据选择提升新任务表现
CORE方法通过自适应数量分配和质量导向数据选择，在split-CIFAR10上平均准确率达37.95%，超过最佳基准6.52%，最差任务准确率也提升6.30%。这表明精细的数据选择策略能显著提升连续学习性能，尤其关注最差任务的表现，为实际应用中的稳定性提供了参考。
Q&A
什么是表示忘却，它在连续学习中有什么影响？
表示忘却是指模型在没有控制的情况下，表现出对旧知识的遗忘。在连续学习中，模型表示通常经历较小的表示忘却，尤其是在长任务序列中。
如何通过有监督对比学习减少遗忘？
通过有监督对比学习构建旧样本原型，可以不断学习表示，从而增强模型的容纳能力，减少遗忘。
适应性记忆回放框架的作用是什么？
适应性记忆回放框架通过动态选择训练数据，能够在保持高性能的同时减少遗忘达10%。
CTR模型如何解决灾难性遗忘和知识迁移问题？
CTR模型利用预训练语言模型生成语义目标作为监督信号，从而减少遗忘并促进知识传递，实验结果显示其有效性。
CUBER方法的主要特点是什么？
CUBER方法通过前向和反向知识传递来提高连续学习表现，且在无数据回放情况下表现优异。
CORE方法如何提高模型在新任务学习中的表现？
CORE方法通过自适应数据选择和数量分配策略，显著提高模型在新任务学习中的表现，实验结果显示其准确率超过最佳基准方法。
