NC-NCD: 节点分类的新颖类发现
内容提要
本文探讨了新类别发现（NCD）在增量学习中的应用，提出了多种基于特征提取和知识蒸馏的方法，显著提升了新类别的识别和聚类性能。实验结果表明，这些方法在多个数据集上表现优越，有效解决了开放世界问题，实现了已知与未知类别的区分。
延伸解读
NCD的核心假设与理论基础
文章指出，新类别发现（NCD）的核心假设是高级语义特征在已知和未知类之间共享。这一假设为利用已知类知识发现新类提供了理论基础。基于此，研究者可以通过元学习、图论表示等方法对NCD问题进行形式化分析，并设计算法。例如，NSCL损失函数通过因子分解图的邻接矩阵，给出了可证明的误差界限和NCD的充分必要条件，增强了方法的理论保证。
方法演进：从独立发现到持续学习
NCD方法经历了从独立发现到持续学习的演进。早期工作如class-iNCD利用预训练模型和知识蒸馏实现基类识别与新类发现；随后，研究扩展到持续新类别发现（CNCD），要求模型在增量学习过程中适应新类而不遗忘旧类。NCDwF问题进一步平衡了知识保留与新类发现。这些进展表明，NCD正从静态场景向动态开放世界应用发展。
实际应用中的考量与局限
文章提到，在低相似度环境下使用标记信息可能导致次优结果，这提示标记集合与无标记集合的语义相似度对NCD性能有重要影响。此外，NCD方法在3D点云语义分割等任务中也有探索，但需要设计新的评估协议。这些发现表明，NCD的实际应用需考虑数据分布和任务特性，并非所有场景都能直接套用现有方法。
Q&A
新类别发现（NCD）在增量学习中有什么应用？
新类别发现（NCD）在增量学习中用于识别和聚类新类别，显著提升了新类别的识别性能。
如何通过知识蒸馏提升新类别发现的效果？
通过结合基类特征原型和知识蒸馏，可以显著提升新类别发现的效果，优于现有方法。
什么是NCD谱对比损失（NSCL），它有什么优势？
NCD谱对比损失（NSCL）是一种新型损失函数，能够在多个基准数据集上表现优越，并提供理论保证。
如何解决开放世界问题？
通过结合硬约束和软约束的方法，可以实现基于语义的新类别数据聚类，从而有效解决开放世界问题。
在新类别发现中，如何处理无标记样本？
通过自协同学习和特征表示建模，可以发现未标记样本中的未知和新颖类别。
NCL框架如何提高聚类性能？
NCL框架通过特征提取器生成的表示来提高聚类性能，显著提升了CIFAR-100和ImageNet上的聚类准确性。
