本文介绍了一种面向少教师推理的知识蒸馏方法(FTI KD),通过比较式知识蒸馏(CKD)来减少对教师模型推理的依赖。实验证明,CKD优于最先进的数据增强和知识蒸馏技术。
本文介绍了一种面向少教师推理的知识蒸馏方法(FTI KD),通过比较式知识蒸馏(CKD)来减少对教师模型推理的依赖。CKD 在各种实验设置下始终优于最先进的数据增强和知识蒸馏技术。
完成下面两步后,将自动完成登录并继续当前操作。