参数选择性持续测试时间适应
内容提要
本文提出了一种分布感知调优（DAT）方法，以提高连续测试时间适应（CTTA）的效率和实用性。研究发现源模型对目标数据流的变化存在偏向，并提出了相应的解决方案。通过引入新方法和鲁棒性平均教师方法（RMT），在多个基准测试中取得了优异的结果。此外，研究探讨了如何在不依赖伪标签的情况下，通过量化模型预测不确定性来提升性能。
延伸解读
CTTA 的实际挑战与 DAT 的应对思路
连续测试时间适应（CTTA）要求模型在测试阶段持续适应不断变化的目标数据流，但源模型往往对分布变化表现出高度偏向的预测。分布感知调优（DAT）通过数据分布选择并更新训练参数，旨在提升 CTTA 的效率和实用性，并在语义分割基准上取得优异性能。这提示读者，CTTA 落地需关注模型对分布偏移的敏感性，而非仅追求适应速度。
不确定性量化：摆脱伪标签依赖的路径
伪标签在 CTTA 中易引入噪声并导致错误累积。文章提到通过量化模型预测不确定性来识别层，从而在不依赖伪标签的情况下提升性能，并在 CIFAR-10C、CIFAR-100C 和 ImageNet-C 等分类数据集上验证了功效。VCoTTA 则采用变分贝叶斯方法测量不确定性，并组合源模型与教师模型的先验来更新学生模型，以减轻先验漂移。
鲁棒性平均教师与类别侵占的缓解
鲁棒性平均教师方法（RMT）基于对称交叉熵损失与对比学习，在测试时自适应地应对连续和逐渐变化的数据分布转移，并在多个基准上达到最先进结果。此外，C-CoTTA 明确防止任何单个类别侵占其他类别，以减轻不可控转换引起的类别间相互影响，降低模型对领域转换的敏感性。这些方法共同指向提升 CTTA 稳定性的不同技术路线。
Q&A
什么是分布感知调优（DAT）方法？
分布感知调优（DAT）方法通过数据分布选择和更新训练参数，提高连续测试时间适应（CTTA）的效率和实用性。
如何解决源模型对目标数据流的偏向问题？
本文提出了一种解决偏见问题的方法，通过改进现有的连续测试时间适应方法，显著提升了性能。
鲁棒性平均教师方法（RMT）有什么作用？
鲁棒性平均教师方法（RMT）可以在测试时自适应地应对连续和逐渐变化的数据分布转移，实验结果显示其在多个基准测试中表现优异。
VCoTTA方法如何测量不确定性？
VCoTTA是一种变分贝叶斯方法，通过组合源模型和教师模型的先验来更新学生模型，从而测量不确定性。
在测试期间如何适应预先训练的模型？
在测试期间，通过使用未标记的测试数据流独占地对预先训练的模型进行适应，以提高测试时间适应的实用价值。
本文的研究对实际应用有什么重要价值？
研究提出的方法在处理不断变化的目标领域中具有重要的实际应用价值，能够有效提高模型的适应性和性能。
