本文研究了知识蒸馏中的投影器作用，提出了一种基于投影器的特征蒸馏方法，显著提升了蒸馏性能。同时，提出了比较式知识蒸馏（CKD），减少了对教师模型的依赖，实验结果优于传统技术。此外，研究还探讨了知识调整和动态温度蒸馏等新方法，在多个数据集上表现良好。