TSCM: 一种利用跨度量知识蒸馏进行视觉地点识别的教师学生模型
原文中文,约500字,阅读约需2分钟。发表于: 。我们提出了一种高性能的教师和轻量级学生蒸馏框架 TSCM,通过使用交叉度量知识蒸馏来缩小教师和学生模型之间的性能差距,提高识别准确度。该方法在大规模数据集上进行了全面评估,实验结果表明其在识别准确度和模型参数效率方面优于基线模型,而且我们的消融研究也证明了所提出的知识蒸馏技术的优越性。
本文介绍了一种新颖的蒸馏流程DistilVPR,用于视觉地点识别(VPR)。该流程利用多个代理的特征关系,包括教师和学生神经网络的自身代理和跨代理,并整合了不同空间曲率的各种流形,以增强特征关系的多样性。实验证明,该流程相较于其他蒸馏基线取得了最先进的性能。