知识蒸馏技术将大型神经网络的知识传递给小型网络。研究发现,不同容量教师的输出在类别关联性上基本一致。提出通过扩大大容量教师的非真实类别概率差异来解决容量不匹配问题,并通过实验验证了其有效性。
完成下面两步后,将自动完成登录并继续当前操作。