基于势场的深度度量学习
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
本文介绍了一种新的度量学习结构,通过Few-Shot Learning生成先验知识,减少假设空间。然后通过离线知识蒸馏方案指导学生模型的决策边界,提高一般化能力。在CIFAR10数据集上取得了40%的改进。
🎯
关键要点
-
提出了一种新的度量学习结构,名为 Guided Deep Metric Learning。
-
该结构由两个独立模型构成。
-
通过 Few-Shot Learning 生成基于带标签数据的先验知识,减少假设空间。
-
采用离线知识蒸馏方案指导学生模型的决策边界。
-
提高了模型在分布偏移下的一般化能力。
-
在 CIFAR10 数据集上取得了高达 40% 的改进。
➡️