对比学习子空间用于文本聚类
内容提要
该论文介绍了多种深度聚类方法，如深度鲁棒聚类（DRC）、对比聚类（CC）和语义对比学习（SCL），通过对比学习优化聚类效果。实验结果显示，这些方法在多个数据集上显著提高了聚类准确性，尤其在CIFAR-10和CIFAR-100上表现突出。此外，研究还提出了基于图的对比学习框架（GCC）和少样本聚类算法（FEC），进一步提升了聚类性能。
延伸解读
方法演进：从DRC到聚类友好表示学习
文章按时间顺序梳理了多种深度聚类方法，从2020年的DRC、CC，到2021年的SCL、GCC，再到2024年的聚类友好表示学习。这些方法均以对比学习为核心，但侧重点不同：DRC兼顾语义聚类与特征表现，CC实现实例级和簇级对比，SCL引入聚类结构，GCC基于图框架，而最新研究则解决无监督下特征重要性区分问题。这一演进显示对比学习在聚类任务中不断细化。
性能提升：CIFAR与少样本场景表现突出
实验结果显示，对比聚类（CC）在CIFAR-10和CIFAR-100上NMI分别达到0.705和0.431，较最佳基线提升19%和39%。少样本聚类算法（FEC）在mini-ImageNet和CUB-200-2011上平均优于基线约3.2%。这些数据表明，对比学习在图像聚类和少样本场景中能带来显著性能增益，尤其在类别差异细微或样本稀缺时。
应用拓展：从图像到文本与多视角
除图像聚类外，文章还提及SCCL用于短文本聚类，在NYT和20News数据集上提升性能；多层特征对比多视角聚类框架探索多视角共同语义；以及利用预训练文本嵌入和k-means划分训练数据，在MSMARCO上预训练BERT时NDCG@10显著提高。这些工作表明对比学习聚类方法正从图像向文本、多视角等更广泛领域扩展。
Q&A
深度鲁棒聚类（DRC）是如何提高聚类准确性的？
深度鲁棒聚类（DRC）通过同时考虑语义聚类和特征表现，增加跨类别差异并减少类内差异，从而显著提高聚类准确性。
对比聚类（CC）在聚类任务中有什么优势？
对比聚类（CC）通过实例级和簇级对比学习，在CIFAR-10和CIFAR-100数据集上显著提高了聚类准确性，尤其在多个基准测试中表现优异。
语义对比学习（SCL）如何优化无标注数据的聚类？
语义对比学习（SCL）通过引入聚类结构到无标注数据的特征空间，优化视觉相似性和聚类决策边界的一致性，从而提升物体识别效果。
基于图的对比学习框架（GCC）与传统方法相比有什么改进？
基于图的对比学习框架（GCC）在聚类任务中表现优于现有的最先进方法，经过多项实验验证其有效性。
少样本聚类算法（FEC）是如何工作的？
少样本聚类算法（FEC）通过对比学习对少量样本进行聚类，生成候选聚类分配并选择最佳候选，从而在多种情况下优于其他基线。
轻量级对比聚类自举方法的效果如何？
轻量级对比聚类自举方法在NYT和20News数据集上显著提升了聚类性能，证明了其有效性。
