PRCL: 半监督语义分割的概率表示对比学习
内容提要
该文综述了对比学习在多领域的进展,涵盖概率表示对比学习(PRCL)用于语义分割、ProbMCL用于多标签分类、原型对比学习(PCL)编码语义结构、概率视频对比学习建模视频分布、语义感知双对比学习捕捉标签特征、双原型对比学习缩小域差异、伪对比学习生成可靠对、弱监督对比学习解决类冲突、半监督点云分割增强特征,以及PLReMix框架避免优化冲突。
延伸解读
概率表示如何提升分割可靠性
PRCL 将像素到表示的映射建模为多维高斯分布,利用概率调节不确定性表示的贡献。这种做法让模型在表示学习阶段就能区分可靠与不可靠的像素特征,从而提升语义分割性能。文章提到该框架在 Pascal VOC 和 CityScapes 上进行了充分实验验证,说明概率建模在分割任务中具有实际可行性。
对比学习在多任务中的扩展路径
文章梳理了对比学习在多个任务上的变体:ProbMCL 用于多标签分类,PCL 编码语义结构,概率视频对比学习建模视频分布,语义感知双对比学习捕捉标签级特征,双原型对比学习缩小域差异,伪对比学习生成可靠对,弱监督对比学习解决类冲突,以及半监督点云分割增强特征。这些工作表明对比学习正从实例区分走向概率化、结构化与跨域适应。
PLReMix 如何避免优化冲突
PLReMix 通过引入伪标签松弛的对比损失,避免复杂训练流程,解决对比表示学习与有监督学习的优化冲突。同时采用二维高斯混合模型,结合语义信息和模型输出区分干净与噪声样本。这一设计针对半监督场景中伪标签噪声与对比学习目标不一致的问题,提供了端到端的解决思路。
Q&A
PRCL是什么?它如何提升语义分割性能?
PRCL是Probabilistic Representation Contrastive Learning(概率表示对比学习)框架,通过将像素到表示的映射建模为多维高斯分布的概率,调节不确定性表示的贡献,提高表示的可靠性,从而提升语义分割性能,并在Pascal VOC和CityScapes上验证。
ProbMCL在多标签图像分类中有什么创新?
ProbMCL是Probabilistic Multi-label Contrastive Learning框架,结合有监督对比学习和混合密度网络,解决多标签分类中的挑战,在计算机视觉和医学影像数据集上验证了有效性和低计算成本。
原型对比学习(PCL)如何编码语义结构?
PCL通过增加原型作为潜在变量来寻找最大似然估计,提出基于对比学习的通用损失函数ProtoNCE loss,不仅学习低级特征,还隐含地将数据的语义结构编码到嵌入空间中,在多个基准测试中优于基于实例对比学习的方法。
概率视频对比学习如何建模视频分布?
该方法基于混合高斯将视频剪辑呈现为正常分布并组合成高斯分布混合物来建模整个视频分布,避免了对剪辑进行转换生成增强视图的策略,在UCF101和HMDB51等基准上达到最先进水平。
弱监督对比学习(WCL)如何解决类冲突问题?
WCL使用两个投影头:一个基于图形的方法找到相似样本并生成弱标签,另一个使用弱标签进行有监督对比学习以拉近相似图像距离,从而解决类冲突问题,提高自监督表示品质,在半监督学习中达到新最优结果。
PLReMix框架如何避免优化冲突?
PLReMix框架通过引入伪标签松弛的对比损失来避免复杂的训练流程,解决对比表示学习与有监督学习的优化冲突,并采用二维高斯混合模型同时利用语义信息和模型输出来区分干净和噪声样本。