本研究探讨了知识蒸馏的不同层次及其应用，提出了PTLoss和R2KD等改进方法，显著提升了模型性能。通过动态调整教师模型的输出，RLD方法有效消除了误导信息，保留了重要的类别相关性。实验结果表明，在CIFAR-100和ImageNet数据集上优于现有技术。