本文综述知识蒸馏研究进展，提出KED框架使学生从教师解释中学习，针对少教师推理场景提出CKD方法，探讨宇宙、领域、实例三层次，并涉及KCD、IE-KD、KA、DTD等新方法，发现蒸馏可增强模型可解释性、降低随机梯度噪声。
完成下面两步后，将自动完成登录并继续当前操作。
