蒸馏剪枝:一种用于边缘设备上实时立体匹配网络的高效压缩框架
💡
原文中文,约200字,阅读约需1分钟。
📝
内容提要
本文提出了一种新的剪枝再蒸馏框架,通过剪枝教师模型减少泛化误差,并构建基于剪枝教师网络的学生网络进行蒸馏。
🎯
关键要点
- 提出了一种新的剪枝再蒸馏框架。
- 框架通过剪枝教师模型减少泛化误差。
- 剪枝后的教师模型在知识蒸馏中起到正则化器的作用。
- 学生网络基于剪枝后的教师网络构建。
- 采用剪枝再蒸馏策略进行蒸馏。
➡️