蒸馏剪枝:一种用于边缘设备上实时立体匹配网络的高效压缩框架

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文提出了一种新的剪枝再蒸馏框架,通过剪枝教师模型减少泛化误差,并构建基于剪枝教师网络的学生网络进行蒸馏。

🎯

关键要点

  • 提出了一种新的剪枝再蒸馏框架。
  • 框架通过剪枝教师模型减少泛化误差。
  • 剪枝后的教师模型在知识蒸馏中起到正则化器的作用。
  • 学生网络基于剪枝后的教师网络构建。
  • 采用剪枝再蒸馏策略进行蒸馏。
➡️

继续阅读