PAT：长尾分割的逐像素自适应训练
内容提要
本文提出了多种解决长尾数据问题的方法，包括梯度感知的逻辑调整（GALA）损失、混淆矩阵建模、DropLoss和自适应损失。这些方法在多个数据集上验证了其有效性，显著提升了模型在长尾类别上的表现和泛化能力。
延伸解读
长尾问题的多角度技术路线
文章汇总了针对长尾数据问题的多种技术路线，包括损失函数调整（如GALA损失、DropLoss）、分类器再平衡（如预测再平衡、PaCo）、混淆矩阵建模（如PCB）以及对比学习（如SCL）。这些方法分别从损失加权、梯度调节、特征空间优化等角度缓解类别不平衡，反映了该领域研究方向的多样性。
从识别到分割与检测的任务扩展
长尾问题不仅存在于图像分类，还延伸到目标检测和语义分割等更复杂的任务。例如，DropLoss针对目标检测中的损失不平衡，PCB处理实例分割中的误分类，而自监督域适应方法则用于长尾语义分割。这表明长尾研究正从单一分类向密集预测任务扩展，以应对更实际的应用场景。
效率与性能的平衡尝试
部分方法关注在有限计算资源下提升长尾性能。PEL方法通过少于20个时期的微调适应长尾识别，减少过拟合；Pixel-wise Attentional Gating则动态调整计算策略，在语义分割等任务中平衡计算量与准确性。这些工作试图在资源受限条件下实现与复杂方法相当的性能。
Q&A
什么是梯度感知的逻辑调整（GALA）损失？
GALA损失是一种用于解决长尾数据问题的损失函数，通过预测再平衡策略来提高模型在长尾类别上的表现。
如何通过PEL方法适应长尾识别任务？
PEL方法通过少于20个时期的微调，无需额外数据即可适应长尾识别任务，并解决过度拟合问题。
什么是Pairwise Class Balance (PCB) 方法？
PCB方法通过混淆矩阵建模不同类别间的误分类信息，有效规范化训练，提升模型的泛化性能。
DropLoss自适应损失的目的是什么？
DropLoss旨在解决目标检测中长尾类别分布下的损失不平衡问题，从而改善罕见类别的预测结果。
Parametric Contrastive Learning（PaCo）如何提升长尾识别性能？
PaCo通过引入类内可学习参数来重新平衡优化，增强同类样本的聚合，从而提升长尾识别性能。
监督对比损失（SCL）在长尾分类中的应用效果如何？
SCL通过解耦训练目标和自我蒸馏优化性能，实验证明在长尾分类基准上具有卓越的准确率。
