WeakSAM:融合分割与弱监督实例级别识别的方法

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

该研究使用CLIP和SAM模型解决弱监督语义分割问题,通过生成高质量的分割种子并使用伪标签进行训练,取得了有竞争力的结果。

🎯

关键要点

  • 研究利用CLIP和SAM模型解决弱监督语义分割问题。

  • 提出基于CLIP和SAM的粗到精细框架生成高质量分割种子。

  • 冻结CLIP权重并使用可学习的任务特定提示执行图像分类和种子分割任务。

  • 设计基于SAM的分区模块应用于生成粗糙或精细的种子图。

  • 使用多标签对比损失和CAM激活损失进行监督学习提示。

  • 学习提示后,将图像和分割特定提示输入CLIP和SAMS模块生成分割种子。

  • 生成的种子用作伪标签训练现成的分割网络。

  • 实验结果显示该方法在PASCAL VOC 2012上取得最先进性能,在MS COCO 2014上获得竞争力结果。

➡️

继续阅读