基于不一致性的数据中心主动开放集注释
内容提要
本文综述主动学习在深度学习中降低标注成本的研究进展：通过聚类、熵、对比学习等策略选取高信息量样本，以少量标记数据训练神经网络；结合半监督学习提升语义分割与图像分类性能；并指出不同算法收益不一致，需规范评估协议以保证结果稳健可重复。
延伸解读
主动学习收益不稳定，评估协议需规范
文章指出，在相同实验条件下，基于不确定性、多样性和委员会的主动学习算法与随机采样基准相比，产生的收益并不一致。这种性能度量差异可能导致结果与以往报告不一致。在强正则化下，主动学习方法甚至显示出微小或无优势。因此，文章建议采用一套评估协议，以确保结果在实验条件变化下具有重复性和稳健性。
开放集场景下熵基方法表现更优
针对开放集主动学习，研究提出了基于熵的EOAL框架，通过有效利用已知和未知分布，从未标记数据中选择信息量较高的样本。在CIFAR-10、CIFAR-100和TinyImageNet数据集上，该方法表现优于现有最先进方法。这表明在存在未知类别的实际场景中，合理利用分布信息有助于提升样本选择效率。
语义分割与点云标注成本可降低
文章提到，结合主动学习和半监督学习的新算法应用于语义分割任务，在减少标注样本数量方面取得优异成果。在点云语义分割中，基于超点的样本选择比点级和实例级选择更有效，并能利用本地一致性约束提升性能。这些结果表明，主动学习是应对高注释成本的有效策略，但需针对任务特点设计样本粒度。
Q&A
主动学习如何降低深度学习的标注成本？
主动学习通过聚类、熵、对比学习等策略从未标注数据中选取高信息量样本进行标注，从而用少量标记数据训练神经网络，达到与大量标记数据相近的准确率。
基于熵的开放集主动学习（EOAL）有什么特点？
EOAL框架通过有效利用已知和未知分布，从未标注数据中选择信息量较高的样本，在CIFAR-10、CIFAR-100和TinyImageNet数据集上表现优于现有最先进方法。
在语义点云分割中，主动学习如何选择样本更有效？
基于超点的样本选择比点级和实例级选择在有限预算下更有效，并利用本地一致性约束进一步提高超点选择方法的性能，在ShapeNet和S3DIS数据集上验证了主动学习是解决高注释成本的有效策略。
主动学习与半监督学习结合能带来什么好处？
结合主动学习和半监督学习可以减少标注样本数量，在语义分割任务中取得优异成果；另有方法融合标注和模型训练，结合半监督学习和基于一致性的样本选择度量，在图像分类任务中表现优异。
为什么不同主动学习算法的收益不一致？
在相同实验条件下，基于不确定性、多样性和委员会的主动学习算法与随机采样基准相比产生的收益不一致，这种性能度量的差异性可能导致结果与以前报告的结果不一致；强正则化下主动学习方法可能显示微小或无优势。
如何确保主动学习算法的评估结果稳健可重复？
需要一套关于如何评估主动学习算法的建议，以确保结果在实验条件变化下具有重复性和稳健性，例如提出更合适的评估协议。
