研究发现,添加投影器可以提高知识蒸馏的性能,改善逻辑蒸馏。具有投影器的学生在训练和测试精度之间取得更好的平衡,与老师的相似性更好,并避免了测试阶段老师的过度自信。基于投影器集合的特征蒸馏方法进一步提高了蒸馏性能。实证结果显示该方法在师生对上具有优越的分类性能,并验证了学生特征的质量改进。
完成下面两步后,将自动完成登录并继续当前操作。