该文综述了知识蒸馏与最优传输结合的研究,包括R2KD、WCoRD、RKD等方法,利用Sinkhorn距离和Wasserstein距离实现师生知识转移,应用于跨语言摘要、度量学习、神经机器翻译及生成模型等任务,在CIFAR-100、ImageNet等数据集上超越现有方法。
完成下面两步后,将自动完成登录并继续当前操作。