Sinkhorn 距离最小化的知识蒸馏

💡 原文中文,约100字,阅读约需1分钟。
📝

内容提要

该论文提出了关系知识蒸馏方法(RKD),用于提高学生模型在度量学习等任务中的性能。在标准基准数据集上,该方法超越了老师模型的表现。

🎯

关键要点

  • 提出了关系知识蒸馏方法(RKD)

  • RKD用于将数据示例之间的相互关系转移给学生模型

  • 提高学生模型在度量学习等任务中的性能

  • 在标准基准数据集上超越了老师模型的表现

➡️

继续阅读