NC-NCD: 节点分类的新颖类发现
内容提要
本文探讨了新类别发现(NCD)在增量学习中的应用,提出了多种基于特征提取和知识蒸馏的方法,显著提升了新类别的识别和聚类性能。实验结果表明,这些方法在多个数据集上表现优越,有效解决了开放世界问题,实现了已知与未知类别的区分。
关键要点
-
新类别发现(NCD)假设高级语义特征在已知和未知类之间共享。
-
提出了一种基于预训练模型的类增量新类别发现方法,结合基类特征原型和知识蒸馏,显著优于现有方法。
-
通过硬约束和软约束相结合的方法,实现了基于语义的新类别数据聚类,解决了开放世界问题。
-
提出了一种基于语义相似度的标记集合选取方法,分析了标记集合与无标记集合之间的语义相似度。
-
引入了一种新型的NCD谱对比损失(NSCL),在多个基准数据集上表现优越,具有理论保证。
-
通过自协同学习和特征表示建模,发现未标记样本中的未知和新颖类别,验证了方法的可行性。
-
提出了一种用于持续新类别发现(CNCD)的特征增强和适应方法,实验证明了其优越性。
-
提出了NCL框架,通过特征提取器生成的表示提高聚类性能,显著提升了CIFAR-100和ImageNet上的聚类准确性。
-
研究了无遗忘新类别发现(NCDwF)问题,验证了在已有知识保留和新类别发现之间的平衡效果。
-
提出了一种新型类别发现方法,处理3D点云数据的语义分割,性能优于传统方法。
延伸问答
新类别发现(NCD)在增量学习中有什么应用?
新类别发现(NCD)在增量学习中用于识别和聚类新类别,显著提升了新类别的识别性能。
如何通过知识蒸馏提升新类别发现的效果?
通过结合基类特征原型和知识蒸馏,可以显著提升新类别发现的效果,优于现有方法。
什么是NCD谱对比损失(NSCL),它有什么优势?
NCD谱对比损失(NSCL)是一种新型损失函数,能够在多个基准数据集上表现优越,并提供理论保证。
如何解决开放世界问题?
通过结合硬约束和软约束的方法,可以实现基于语义的新类别数据聚类,从而有效解决开放世界问题。
在新类别发现中,如何处理无标记样本?
通过自协同学习和特征表示建模,可以发现未标记样本中的未知和新颖类别。
NCL框架如何提高聚类性能?
NCL框架通过特征提取器生成的表示来提高聚类性能,显著提升了CIFAR-100和ImageNet上的聚类准确性。