利用细粒度原型分布提升无监督类增量学习
内容提要
本研究提出了多种新方法以提升类增量学习的性能，包括CwD、类增量新类别发现和基于嵌入的eCIL-MU框架。这些方法通过优化特征表示、引入混合类别和动态网络算法，显著提高了在长尾数据分布中的学习效果，实验结果在CIFAR-100和ImageNet数据集上表现优异。
延伸解读
方法演进与核心思路
文章梳理了2021年至2024年类增量学习领域的多项进展，核心思路从早期规范类表示（CwD）逐步转向利用预训练模型、特征原型和知识蒸馏。例如，class-iNCD结合基类原型与自训练聚类发现新类；课程增量学习引入各向异性马氏距离建模特征协方差，替代欧氏距离。这些方法共同关注特征空间的优化，以提升模型在增量场景下的稳定性和可塑性。
长尾分布与灾难性遗忘的应对
针对长尾类增量学习中的灾难性遗忘问题，文章介绍了两阶段框架和TaE等方案。两阶段框架利用全局方差和类别原型对齐分类器，无需数据平衡或额外层调整，并能与任何CIL方法集成；TaE则通过动态网络算法和中心点增强实现任务感知扩展。这些方法在CIFAR-100和ImageNet等数据集上验证了有效性，为长尾场景提供了新思路。
机器遗忘与半监督学习的融合
文章还探讨了类别级机器遗忘和半监督增量学习的结合。eCIL-MU框架基于嵌入技术实现非破坏性遗忘，加速效果最高达278倍；而非示例半监督框架通过对比学习和增量原型分类器，使模型能从部分标记的新数据中逐步学习。这些方向扩展了类增量学习的应用边界，兼顾了知识保留与隐私保护需求。
Q&A
CwD方法是如何提升类增量学习性能的？
CwD方法通过规范每个类的表示，使其更均匀分散，从而提高了现有方法的性能约1%至3%。
在ImageNet数据集上，增量学习的准确率提高了多少？
在ImageNet数据集上，采用二阶段训练方案的增量学习方法比现有方法提高了10%的准确率。
类增量的新类别发现方法有什么创新？
该方法结合基类特征原型和知识蒸馏，利用自我训练聚类策略实现新类别的发现，显著优于现有方法。
如何改善课程增量学习中的稳定性和可塑性？
通过将固定特征提取器和伪特征生成器相结合的方法，改善了稳定性和可塑性之间的平衡。
TaE框架在长尾类增量学习中有什么优势？
TaE框架通过动态网络算法和中心点增强方法，解决了长尾类增量学习问题，并在多个数据集上取得了最先进的性能。
FeTrIL框架如何研究类别增量学习的有效性？
FeTrIL框架通过过采样技术和动态优化策略，研究了类别增量学习的有效性，并在多个数据集上表现出卓越性能。
