通过利用领域内类别感知原型增强开放域持续学习
内容提要
该研究探讨了在线持续学习中的图像分类问题，比较了MIR、iCARL和GDumb等多种方法，发现MIR表现优异。同时评估了CLIP模型在不同设置下的持续学习能力，提出了新算法CTP和CDCL，以解决忘却和分布漂移问题，展示了良好的性能。
延伸解读
CLIP作为持续学习基线的意义
文章指出，冻结的CLIP模型在零次评估下，于类增量、域增量和任务不可知增量学习等多种设置中，性能优于现有模型。这提示读者，在持续学习研究中，CLIP可作为一个强大且简单的基线，未来比较新方法时应考虑与其对比，以更公平地评估进展。
方法演进：从MIR到CoLeCLIP
文章系统比较了MIR、iCARL和GDumb等方法，发现MIR强大通用；随后介绍了基于CLIP的多提示混合学习、CTP、CDCL、CoLeCLIP和I-Prompt等新算法。这些方法分别针对忘却、分布漂移、跨领域对齐和训练效率等问题，反映了持续学习领域从简单基线到复杂提示学习的演进路径。
开放域持续学习的挑战与对策
开放域持续学习面临新类别涌现和数据非稳态等挑战。文章提到CoLeCLIP通过联合学习任务提示和跨领域类别词汇来应对，而I-Prompt则专注于图像令牌的视觉语义信息以消除任务预测。这些方法旨在平衡知识保留与新知识获取，同时减少训练负担，为实际应用提供了参考。
Q&A
MIR方法在在线持续学习中有什么优势？
MIR被认为是一种强大而通用的在线持续学习方法，表现优异。
CLIP模型在持续学习中表现如何？
CLIP模型在冻结状态下提供了优异的持续学习表现，尤其在类增量和域增量设置中。
研究中提出了哪些新算法来解决忘却和分布漂移问题？
研究提出了CTP和CDCL算法，旨在解决忘却和分布漂移问题，表现良好。
什么是交叉领域连续学习（CDCL）方法？
CDCL方法结合了跨任务关注机制，增强了学习过程的准确性，并实现了无监督的交叉领域学习。
I-Prompt方法的主要特点是什么？
I-Prompt方法专注于图像令牌的视觉语义信息，显著减少了训练时间并在多个基准测试中表现出色。
研究中提到的无监督域增量学习流程是怎样的？
该流程通过获取基础嵌入和聚类中心相似度来训练增量任务分类器，并设计算法决定何时在线学习新任务。
