一种有效的动态梯度校准方法用于持续学习
内容提要
本文探讨了连续学习中的收敛性和灾难性遗忘问题，提出了类梯度投影（CGP）和弹性多梯度下降（EMGD）等方法，以提升模型在新任务中的表现并减少对旧任务的负面影响。同时，介绍了基于回放的持续学习策略和自我监督技术，展示了其在不同场景下的有效性和优势。
延伸解读
持续学习中的校准问题
文章指出，持续学习策略并不能自然地学习到校准模型，即模型预测的置信度可能无法真实反映其准确性。为此，研究者设计了一种持续校准方法，通过后处理校准技术，在不同基准和持续学习策略范围内提升模型性能。这提醒我们，在评估持续学习模型时，除了关注准确率，还应重视预测的可靠性。
梯度投影与弹性多梯度下降的对比
类梯度投影（CGP）通过将梯度更新投影到已有类别的子空间，减少对其他类别的干扰；而弹性多梯度下降（EMGD）则引入任务特定的弹性因子，调整下降方向以最小化对先前任务的负面影响。两者都致力于缓解灾难性遗忘，但CGP侧重于梯度空间的正交性，EMGD则强调动态平衡新旧任务。
回放策略的演进与自我监督
Gradient Coreset Replay作为一种回放策略，通过选择核心样本有效应对灾难性遗忘，在离线和在线场景中均取得显著收益。此外，基于梯度稀疏参数更新的学生-教师模型利用测试数据进行自我监督，减少遗忘并提升性能。这些方法展示了回放与自我监督在持续学习中的潜力，为实际应用提供了新思路。
面向现实场景的持续学习新范式
文章介绍了Realistic Continual Learning（RealCL）范式，其中任务之间的类分布是随机的，不同于传统的结构化设置。同时，CLARE预训练模型解决方案旨在整合新知识的同时保留过去学习。这反映了持续学习研究正从理想化设定转向更贴近现实的应用场景，对模型的泛化能力提出了更高要求。
Q&A
什么是类梯度投影（CGP）方法？
类梯度投影（CGP）方法通过将梯度更新投影到已有类别的子空间，减少其他类别的干扰，从而提高新任务的处理能力。
弹性多梯度下降（EMGD）如何减少灾难性遗忘？
弹性多梯度下降（EMGD）通过引入任务特定的弹性因子，调整下降方向，以最小化对先前学习任务的负面影响。
如何通过回放策略应对灾难性遗忘？
Gradient Coreset Replay作为一种新的回放策略，有效应对灾难性遗忘，并在离线和在线场景中取得显著收益。
持续学习中的灾难性遗忘问题如何解决？
通过有监督对比学习框架和持续校准方法，可以保存少量数据并适应分类准则，从而有效解决灾难性遗忘问题。
什么是Continual Active Learning（CAL）？
Continual Active Learning（CAL）结合现有和新开发的基于回放的多样化技术，有效解决Active Learning中的重新训练和忘记旧数据的问题。
Realistic Continual Learning（RealCL）范式的特点是什么？
Realistic Continual Learning（RealCL）范式中任务之间的类分布是随机的，旨在在保留过去学习的同时整合新知识。
