本研究提出StreamAdapter,通过直接更新模型参数,降低了大语言模型在测试时间适应中的推理成本,显著减少了对示例数量的依赖,提高了推理效率。
本研究提出了一种新的测试时间适应(TTA)方案,利用实例感知批量归一化和预测平衡库采样来增强模型在非独立同分布数据流中的鲁棒性。评估结果表明,该方案在多种数据集上表现优越,尤其在处理分布转移时显著提高了模型的适应能力和计算效率。同时,研究探讨了在线测试时间适应的挑战及未来方向。
本文探讨了测试时间适应(TTA)在机器学习中的应用与优化,提出了如ROID和AR-TTA等方法,以提高模型在动态环境中的鲁棒性和性能。研究表明,TTA的有效性依赖于模型质量,并需在更广泛的场景中进行评估。通过引入新技术,本文提升了医学图像分割等任务的表现,强调了适应未标记数据的重要性。
本文提出了一种新的测试时间适应(TTA)方法,结合标签偏移适应器和主动样本选择准则,显著提升了模型在分布转移中的性能。研究探讨了不同TTA类型及其挑战,并提出了高效抗遗忘的EATA方法,通过实验验证了其在图像分类和语义分割中的有效性。
本文提出了一种基于视觉域提示的连续测试时间适应方法,以应对未标记目标域的变化。该方法结合域特定和域不可知提示,以及一致性策略,显著提升了模型在多个基准测试中的性能。此外,研究探讨了使用视觉变换器进行模型微调的有效性,并提出了领域知识提取和适应的新策略,展示了在不同数据集上的优越表现。
本文提出了一种人机协同的测试时间适应(TTA)框架ATASeg,通过少量注释提升医学图像分割模型的性能。研究探讨了主动学习、样本选择标准及鲁棒性算法,解决了领域偏移和灾难性遗忘问题,验证了其在动态应用场景中的有效性。
测试时间适应 (TTA) 是将预训练模型调整到新的测试领域的方法。研究者提出了DPLOT框架,通过选择特定领域特征提取的块进行训练,并使用伪标签生成方法。实验结果表明,DPLOT在多个基准测试中表现优于以前的方法。其他研究还提出了不同的测试时间适应方法,如Decoupled Prototype Learning (DPL)、特征修正和自我蒸馏等。
本文综述测试时间适应(TTA)研究,涵盖基于alpha-BN的Core框架、全测试时间适应、少样本域适应及实用TTA设置,通过校准批次统计量、熵正则化和元学习等方法缓解域漂移,在图像分类和语义分割基准上取得最优性能。
该文综述分布偏移下机器学习模型的性能估计与适应问题,主要内容包括:提出基于领域不变性的预测模型以准确估计目标误差,用于模型选择与早期停机;提出全测试时间适应方法,利用替代熵与批次熵最大化正则化提升鲁棒性;给出基于表示学习与样本重加权的误差界;利用无标签测试数据推导误差上界并提出不一致损失;提出GradNorm梯度空间异常检测与基于梯度的不确定性度量;引入距离检查改进性能估计;通过分布鲁棒优化一次训练获得对多种标签偏移稳健的分类器;基于保形推断建立鲁棒预测集;并提出轻量级事后方法,通过验证集约束优化实现分布鲁棒分类。
该文综述测试时间适应中的批量归一化统计量估计方法,包括混合源域与目标域统计量、实例感知归一化、平衡BN层及自监督更新BN参数等策略,以缓解小批量类别多样性不足与域漂移问题,提升模型对非独立同分布数据流和类别不平衡的鲁棒性,并在图像分类、语义分割和人员再识别任务上取得领先性能。
完成下面两步后,将自动完成登录并继续当前操作。