本文综述预训练与微调关系的研究进展，涵盖辅助任务学习、有监督对比学习预训练、不变性传递度量、部分线性化多任务融合、正则化、持续微调、多级对比学习及任务头选择对特征适应的影响，以提升下游任务性能并平衡适应性与稳定性。