内存一致性引导的分治学习方法用于广义类别发现
内容提要
本文综述广义类别发现（GCD）研究进展，涵盖动态概念对比学习、层次类别数据集、EM-like高斯混合框架、广义连续类别发现、元学习、联邦GCD、长尾GCD以及引入大语言模型和CLIP多模态文本检索等方法，在细粒度识别等任务上取得最优表现。
延伸解读
GCD 方法演进：从静态到动态与连续
文章梳理了广义类别发现（GCD）从早期静态方法到动态概念对比学习（DCCL）和广义连续类别发现（GCCD）的演进。DCCL 通过交替估计视觉概念和学习表示提升聚类准确性，在细粒度识别上表现突出；GCCD 则关注连续学习场景下发现新类别并保持旧类别性能。这些进展表明 GCD 正从单任务向更贴近现实动态环境的设定发展。
层次结构与类别数未知的挑战
针对传统无监督聚类需预设类别数的问题，文章介绍了基于合成数据集 Clevr-4 的层次类别发现方法，以及基于 EM-like 高斯混合模型的框架。后者利用渐进式原型对比学习，在不知道类别数的情况下同时进行表征学习和聚类分配，在分类和物体识别上取得最优性能。这些工作试图解决 GCD 中类别层次和数量未知的核心难点。
联邦与长尾场景下的 GCD 扩展
文章还涵盖了联邦 GCD 和长尾 GCD 两个扩展方向。联邦 GCD 通过聚合客户端的 GMM 分类生成全局 GMM，在不暴露本地数据的前提下协同训练，性能优于 FedAvg 基线。长尾 GCD 则引入重加权机制和类先验约束，在 ImageNet100 上实现约 6-9% 的提升，并在 CIFAR100 上具有竞争力，说明 GCD 正被推向数据分布不均和隐私敏感的实用场景。
大语言模型与多模态的引入
文章提到将大语言模型和多模态模型 CLIP 引入 GCD。Loop 框架利用大语言模型进行端到端主动学习，生成类别名称，以改善未知类别上的表现。另一项工作基于 CLIP 的文本检索机制，挖掘带标签和无标签文本库中的描述，实现联合图像-文本半监督聚类，在多个数据集上取得最优结果。这些尝试表明 GCD 正借助外部语义知识提升泛化能力。
Q&A
广义类别发现（GCD）是什么？
广义类别发现（GCD）是一个开放式任务，旨在自动发现广义类别。它使用半监督表示学习过程中获得的区分性嵌入，构建原始稀疏网络，并使用社区检测方法同时获取聚类结果和类别数。
动态概念对比学习（DCCL）框架有什么特点？
DCCL框架通过交替估计基本视觉概念和学习概念表示来有效提高聚类准确性。实验表明，DCCL在通用和细粒度视觉识别数据集上取得了新的最优表现，尤其在细粒度方面表现良好。
Clevr-4数据集在GCD研究中有什么作用？
Clevr-4是一个合成数据集，包含四个不同的数据分割，用于研究和评估GCD方法。它需要模型在有标签数据集的基础上推断出类别的层次结构，解决传统无监督聚类方法存在的问题，并在实验中展示了该方法的优越性。
EM-like高斯混合框架如何解决GCD问题？
该框架基于半监督的高斯混合模型，利用渐进式的原型对比学习进行表征学习，并采用聚类分配实例，从而解决不知道类数的广义类别发现问题，并在分类和物体识别上取得最先进的性能。
广义连续类别发现（GCCD）是什么？
GCCD是一个框架，通过连续无监督学习方法在任务中发现新的和已知的类别。实验证明，该方法在表示学习性能上优于已采用GCD技术的强大CL方法。
MetaGCD方法如何实现持续发现新类别？
MetaGCD使用元学习框架和基于邻域的对比网络，实现了在已知类别中持续发现新类别的能力，并通过实验结果展示了该方法的优越性。
联邦广义类别发现模型是如何工作的？
该模型基于Associated Gaussian Contrastive Learning框架，适用于在不暴露客户机训练数据的情况下协同训练。通过在服务器上聚合客户机学习的GMM分类生成全局GMM来生成更全面的类别知识，本地GCL使用有限的本地数据学习鲁棒的表示，全局GCL使用综合的类别关系鼓励模型产生更具有区分度的表示。实验表明该模型优于FedAvg基线。
长尾广义类别发现（Long-tailed GCD）取得了什么成果？
通过研究基于长尾分布的广义类别发现范式，以及支持稀有类别和预期类别分布的重新加权机制和类先验约束，提出的方法在ImageNet100上实现了约6-9%的改善，并在CIFAR100上取得了有竞争力的性能。
Loop框架如何利用大语言模型改进GCD？
Loop是一个端到端主动学习框架，通过引入大型语言模型来改进通用类别发现任务，提升模型性能，生成类别名称，从而解决了当前方法在未知类别上表现不佳的问题，并扩大了在实际应用中的适用范围。
如何利用CLIP多模态模型进行GCD？
通过引入多模态模型（CLIP），提出了一种基于文本检索的机制，通过挖掘带标签和无标签文本库中的文本描述来实现联合图像+文本半监督聚类，该方法在多个数据集上得到了最优结果。
