本研究探讨了神经网络在医学图像分割中的知识迁移，重点是从大规模“教师”网络向小型“学生”网络的迁移。通过多尺度特征蒸馏和监督对比学习，提升学生模型的性能，并评估不同损失对知识迁移的影响。

本文研究了知识蒸馏中投影器的隐含作用，提出了基于投影器集合的特征蒸馏方法，实验证明该方法在师生对上具有优越的分类性能，并改进了学生特征的质量。