基于深度支持向量的实用数据集蒸馏
原文中文，约300字，阅读约需1分钟。发表于：。在实际场景中仅能访问整个数据集的一部分的情况下，我们提出了一种新的数据集提炼方法，通过添加深度 KKT（DKKT）损失来增强传统过程中的一般模型知识。在 CIFAR-10 数据集上的实验表明，我们的方法在实际设置下相较于基线分布匹配提炼方法表现出更好的性能，并且我们还呈现了深度支持向量（DSVs）在原始提炼中提供了独特信息的实验证据，它们的整合结果提升了性能。
本文介绍了一种新的数据集提炼方法，通过添加深度KKT（DKKT）损失来增强模型知识。实验结果表明，该方法在CIFAR-10数据集上优于基线分布匹配提炼方法，并且深度支持向量（DSVs）提供了独特信息，提升了性能。
