SAU：一种通过生成模型增强长尾识别的双分支网络
内容提要
本文研究了长尾分布对计算机视觉的影响，提出了双边分支网络、权重均衡技术和对比学习等方法来改善长尾识别性能。研究表明，通过调整分类器和采用新颖的学习策略，可以有效解决数据不平衡问题，多个实验验证了这些方法在长尾数据集上的优越性。
延伸解读
长尾识别中的表示与分类器解耦
文章指出，数据不平衡对学习高质量表示的影响可能有限。使用最简单的实例平衡抽样学习表示后，仅调整分类器就能实现强大的长尾识别能力，甚至胜过精心设计的损失、采样策略或复杂模块。这提示研究者可以解耦表示学习和分类器学习，优先保证表示质量，再针对分类器进行平衡调整。
从双边分支到权重均衡的技术演进
文章梳理了长尾识别方法的演进：从双边分支网络同时关注表示与分类器学习，到CBD框架利用知识蒸馏增强特征表示，再到权重均衡技术通过L2正则化、权重衰减和MaxNorm约束进行两阶段训练。这些方法在多个基准数据集上取得先进结果，反映了该领域从结构设计向训练策略优化的转变。
生成模型与自监督在长尾识别中的新应用
文章提到，基于Textual Inversion的图像合成流程利用生成图像填补数据不平衡，在长尾识别上取得先进结果；LiVT模型则采用掩码生成预训练和平衡二元交叉熵，在iNaturalist 2018上达到81.0%的Top-1准确率。这表明生成模型和自监督学习正成为缓解长尾问题的新途径。
双分支对比学习模型的竞争力
DB-LTR模型结合不平衡学习分支和对比学习分支，通过常见不平衡学习方法解决数据不平衡，并利用对比学习改善对尾部类别的适应能力，学习出具有良好表现的特征空间和有区分度的决策边界。在CIFAR100-LT、ImageNet-LT和Places-LT上的实验证明其相比比较方法具有竞争力和卓越性。
Q&A
长尾分布对计算机视觉的影响是什么？
长尾分布对计算机视觉的影响主要体现在训练样本数量对分类性能的显著影响，迁移学习在此背景下表现欠佳。
双边分支网络方法的主要特点是什么？
双边分支网络方法同时关注表示学习和分类器学习，采用渐进积累学习策略，实验结果优于现有技术。
CBD框架如何增强特征表示？
CBD框架通过知识蒸馏增强特征表示，并利用类平衡采样使特征表示在少数类上进化。
权重均衡技术在长尾识别中如何应用？
权重均衡技术通过L2正则化、权重衰减和MaxNorm约束等方法，在两阶段训练中解决长尾识别问题。
LiVT模型的性能如何？
LiVT模型在iNaturalist 2018数据集上的Top-1准确率达81.0%，显示出其优化性能的有效性。
双分支长尾识别模型DB-LTR的优势是什么？
DB-LTR模型结合不平衡学习和对比学习，实验证明其在长尾数据集上的竞争力和卓越性。
