知识蒸馏中肾脏和肝脏肿瘤分割的中间层设计重新思考

研究者提出了分层选择性反馈蒸馏（HLFD）方法，用于医学成像任务中的知识蒸馏。通过从中间层到较早层的蒸馏，以及将最终层的知识转移到中间层，生成稳健且紧凑的学生模型。HLFD方法在肾脏分割任务中优于现有方法，提升了10个百分点以上，并改善了对肿瘤特征的关注。使用HLFD训练的学生模型能够抑制不相关信息，聚焦于肿瘤特定细节，为更高效准确的诊断工具开辟了新路径。