DeepKD: A Deep Decoupling and Denoising Knowledge Distillation Trainer

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了DeepKD框架,旨在解决知识蒸馏中目标类与非目标类知识冲突及低置信度噪声问题。通过双重解耦和自适应去噪,显著提升了知识转移效果。

🏷️

标签

➡️

继续阅读