知识蒸馏通过软标签传递信息，但传统的温度共享假设要求精确匹配logit的范围和方差。为解决此问题，提出使用logit的加权标准差设定温度，并在应用softmax和KL散度前进行Z分数预处理。这种方法无需匹配幅值，提升了蒸馏性能。研究表明，传统温度共享不可靠，而Z分数能有效缓解此问题。对CIFAR-100和ImageNet的评估显示，该方法显著提升了知识蒸馏效果。

该论文研究了通过隐式语义增强提高模型泛化性能的方法，并在三个基准测试数据集上实现了最先进的性能水平。该方法使用距离度量学习和交叉熵损失的 logits 作为输入特征。