模型蒸馏让小模型学习大模型行为，降低成本和部署门槛。经典方法通过软标签和温度缩放传递暗知识；大模型时代主要依赖合成数据、特征和logit蒸馏。蒸馏本身是常规工程实践，但未经授权的大规模蒸馏引发行业与法律冲突，目前尚无清晰解决方案。