迭代切片传播的脊椎体弱监督分割

💡 原文中文,约1900字,阅读约需5分钟。
📝

内容提要

该文综述弱监督图像分割研究,涵盖CNN切片传播、增量学习、自训练、原型对比、SAM适用性及LiDAR引导等方法,在PASCAL VOC、COCO等数据集上提升性能并降低标注成本,并发布腰椎MRI分割数据集。

🔎

延伸解读

弱监督分割的标注成本优势

文章指出,弱监督分割利用图像级标签、RECIST标记或LiDAR点云等弱监督信息,替代昂贵的像素级标注。例如,基于LiDAR导引的框架使用点云和三维框,大幅减少2D遮罩注释成本;在腰椎MRI数据集中,迭代标注方法也降低了标注负担。这些方法在保持性能的同时,为医学影像和自动驾驶等标注成本高的领域提供了可行方案。

方法演进:从切片传播到多模态融合

文章综述了弱监督分割的技术路线:早期基于CNN的切片传播在RECIST标记上达到92% Dice,随后出现增量学习、自训练、原型对比等方法。近期研究转向利用SAM等视觉基础模型,以及LiDAR与图像的多模态融合。这一演进显示,弱监督分割正从单一图像级标签向多源弱监督信号和跨模态协同发展,以提升伪标签质量和分割精度。

性能表现与数据集基准

在PASCAL VOC 2012和MS COCO等基准上,弱监督方法不断刷新纪录。例如,基于对比学习的单阶段方法在VOC 2012验证集和测试集分别达到67.2%和68.76% mIoU;另一方法在VOC 2012上达到新的最先进水平。此外,文章发布的腰椎MRI数据集包含218名患者的447个系列,并提供了nnU-Net基准,为公平比较分割算法提供了平台。

挑战与未来方向

文章指出,弱监督分割常因只关注最具差异性的区域而导致边界精度下降。为此,有研究将图像划分为确定性和不确定性区域分别处理,并通过自增强保持语义一致性。同时,SAM等基础模型的适用性仍在探索中。未来需进一步解决语义漂移、边界模糊等问题,并推动弱监督方法在更多临床和自动驾驶场景中的落地。

❓

Q&A

弱监督切片传播分割方法在病变分割上的性能如何?

该方法以RECIST标记为弱监督数据,在淋巴结数据集上性能与全监督方法相当。在全面的病变数据集上,RECIST标记图层的Dice分数均值为92%,整个3D体积为76%。

基于增量和弱监督学习的框架有什么特点?

该框架采用预训练的共同分割和迁移学习思想,结合记忆复制和粘贴增强方法,能够从图像层次标签中学习,同时不遗忘旧分类任务。在Pascal VOC和COCO数据集上表现出卓越性能。

如何解决弱监督实例分割中的实例定位难题?

提出一种创新方法,使用自我训练方案改进伪标注,消除语义漂移问题。在PASCAL VOC 2012和MS COCO上实验证明有效,无需使用与实例或对象有关的预训练技术。

基于像素级原型对比度的弱监督语义分割方法是如何工作的?

通过两种直观先验知识,对图像的不同视角和单个视角内执行跨视图特征语义一致性规则,促进特征空间的内部(间)类一致性(离散度),从而提高两个强基线模型的精度,在PASCAL VOC 2012上达到新的最先进水平。

视觉基础模型(如SAM)在弱监督语义分割中的适用性和挑战是什么?

文章对传统方法进行全面调研,然后研究了在弱监督语义分割中视觉基础模型(如SAM)的适用性和挑战,为该研究领域的未来发展提供了深入的见解。

基于LiDAR导引的弱监督实例分割框架有什么优势?

该框架利用点云和三维框作为自然的弱监督信息代替2D遮罩标注,有效利用不同模态数据进行训练,并大幅度减少了2D遮罩的注释成本。包含点标签分配(PLA)和基于图形的一致性正规化(GCR)两个关键模块,在nuScenes和Waymo上进行了广泛实验。

弱监督语义分割中如何处理确定性区域和不确定性区域?

提出自适应将图像内容划分为确定性区域(如自信的前景和背景)和不确定性区域(如目标边界和错误分类类别)进行分别处理。对于不确定性提示,采用基于激活的掩膜策略,并试图通过自身提炼的知识来恢复局部信息。进一步假设未掩膜的自信区域应具有足够的鲁棒性以保持全局语义,引入互补的自我增强方法,限制这些自信区域与具有相同类别标签的增强图片之间的语义一致性。在PASCAL VOC 2012和MS COCO 2014上实验证明,该单阶段方法明显优于最先进的基准方法,并在复杂性换精度的多阶段方法之上。

MWSIS框架是什么?它有什么作用?

MWSIS是一种新型框架,通过应用弱监督方法和多模态跨模态监督,同时利用2D和3D注释来提高伪标签的质量,可在自动驾驶等领域中进行实例分割,从而显著提高性能并降低注释成本。

文章介绍了哪个公开的腰椎MRI数据集?

文章介绍了一个公开的包含多个研究中心的腰椎磁共振成像(MRI)数据集,其中包括有底部疼痛病史的218名患者的447个MRI系列,并使用迭代数据标注方法训练了一个分割算法,该算法提供了基准算法和相似的nnU-Net引擎性能基准,并且可以用于比较不同的分割算法的公正性连续分割挑战。

🏷️

标签

➡️

继续阅读