本研究提出了群体相对知识蒸馏(GRKD)框架,解决了现有知识蒸馏方法忽视教师模型关系性归纳偏置的问题。GRKD通过关注类别之间的相对排名提炼教师知识,实验表明其在细粒度分类任务中具有更优的泛化能力。
完成下面两步后,将自动完成登录并继续当前操作。