数据集蒸馏通过合成少量图像来近似完整数据集,但在增加每类图像数量时效果下降。SelMatch方法通过选择初始化和部分更新,提升蒸馏效果。在CIFAR-10/100和TinyImageNet测试中,尤其在高IPC下表现优异。该方法使用滑动窗口算法选择合适样本进行初始化,并在蒸馏过程中保持部分样本不变,确保数据集多样性和复杂性。实验结果显示SelMatch在不同子集比例下表现出色。
完成下面两步后,将自动完成登录并继续当前操作。