熵不足以实现测试时适应性：从解开因素的角度
原文中文，约1600字，阅读约需4分钟。
📝
内容提要
本研究提出了去耦原型学习（DPL）和鲁棒熵自适应损失最小化（REALM）等方法，以提高测试时间自适应（TTA）的性能。通过主动样本选择和一致性正则化，显著改善了图像分类和语义分割的适应性。实验结果表明，这些方法在领域泛化和图像破坏基准上表现优异，有效解决了标签噪声和模型稳定性问题。
❓
Q&A
去耦原型学习（DPL）方法的主要作用是什么？
DPL方法主要解决了伪标签导致的标签噪声问题，并增强了小批量处理的鲁棒性。
鲁棒熵自适应损失最小化（REALM）方法如何提高自适应过程的准确性？
REALM方法通过改进噪声样本问题，提高了自适应过程的准确性。
什么是熵基于测试时间自适应（EBTTA）方法？
EBTTA方法是一种针对分布漂移的测试时间自适应方法，旨在改善模型在新数据上的适应性。
主动样本选择准则在测试时间自适应中有什么作用？
主动样本选择准则用于确定可靠和不冗余的样本，以最小化测试时适应的熵损失。
如何缓解模型的“灾难性遗忘”问题？
通过引入Fisher正则化器，约束重要的模型参数，使其不会发生剧烈变化，从而缓解“灾难性遗忘”。
LLM-TTA技术的应用场景是什么？
LLM-TTA技术适用于低资源和高资源环境，改善模型在外部数据上的鲁棒性。
🏷️
