基于神经特征函数的数据集蒸馏:最小最大视角
📝
内容提要
本研究解决了现有数据集蒸馏方法在分布匹配中存在的准确性不足的问题,通过将其重新表述为一个最小最大优化问题,引入了神经特征函数差异(NCFD)度量指标。这一新方法显著提升了合成样本的真实感和多样性,实验结果表明在多个数据集上表现优于现有方法,并在CIFAR-100上实现无损压缩,标志着深度学习数据需求的显著减少。
🏷️
标签
➡️