本研究综合研究了从预训练模型开始使用半监督学习方法，探讨了在不同条件下的表现。结果显示，半监督学习技术对从预训练模型开始训练的模型的提升效果较使用随机初始化的模型来的小。然而，当预训练模型的源数据域与目标任务的数据域存在明显差异时，SSL方法的提升效果明显提高。

本文提出了一种基于先验知识和可转移性的框架来选择最好的源任务，以提高给定目标任务的转移学习性能。实验表明，从相同模态下的不同任务转移通常比从不同模态下的同一任务转移更成功。从具有与目标任务更强的 RoI 形状相似性的源任务转移可以显着提高最终的转移性能。