在线测试时间适应的领域特定块选择和配对视觉伪标签
内容提要
测试时间适应 (TTA) 是将预训练模型调整到新的测试领域的方法。研究者提出了DPLOT框架，通过选择特定领域特征提取的块进行训练，并使用伪标签生成方法。实验结果表明，DPLOT在多个基准测试中表现优于以前的方法。其他研究还提出了不同的测试时间适应方法，如Decoupled Prototype Learning (DPL)、特征修正和自我蒸馏等。
延伸解读
DPLOT 的核心思路
DPLOT 框架包含两个关键组件：一是选择涉及特定领域特征提取的块，并通过熵最小化进行训练；二是使用配对视图图像生成伪标签。通过简单的翻转增强，防止伪标签质量下降。这种设计旨在不访问源数据的情况下，将预训练模型调整到新的测试领域。
性能提升与基准测试
在 CIFAR10-C、CIFAR100-C 和 ImageNet-C 基准测试中，DPLOT 相比之前的测试时间适应方法，分别减少了 5.4%、9.1% 和 2.9% 的错误。这些结果表明，DPLOT 在多个图像损坏基准上有效提升了模型的适应性能。
相关研究对比
文章还提到了其他测试时间适应方法，如解耦原型学习（DPL）通过一致性正则化解决伪标签噪声问题；特征修正、自我蒸馏和空间本地化聚类用于医学图像分割；以及基于最近邻信息的自训练方法 TAST 在领域泛化和图像损坏方面表现优异。这些方法从不同角度提升了 TTA 的鲁棒性。
Q&A
什么是测试时间适应 (TTA)？
测试时间适应 (TTA) 是一种在无法访问源数据的情况下，将预训练模型调整到新的测试领域的方法。
DPLOT框架的主要组件是什么？
DPLOT框架主要包括选择特定领域特征提取的块和使用配对视图图像生成伪标签。
DPLOT在基准测试中的表现如何？
DPLOT在CIFAR10-C、CIFAR100-C和ImageNet-C基准测试中表现优于以前的方法，分别减少了5.4%、9.1%和2.9%的错误。
Decoupled Prototype Learning (DPL) 方法解决了什么问题？
DPL方法解决了使用伪标签进行交叉熵损失微调时容易受到标签噪声影响的问题，并增强了小批量处理的鲁棒性。
有哪些技术可以提高医学图像分割任务的性能？
特征修正、自我蒸馏和空间本地化聚类等技术被用于提高医学图像分割任务的性能。
未来的测试时间适应研究面临哪些挑战？
研究总结了测试时间适应的应用与优化方法，并探讨了未来研究的挑战。
