InPer: 经由因果干预和扰动的全过程领域泛化
内容提要
本文探讨了单域广义化及其在模型泛化能力上的挑战，提出了CPerb方法，通过增强训练数据多样性来改善模型在未知域的表现。研究强调了因果不变性学习和上下文信息的应用，指出数据扩增和特征扰动在提高模型泛化性能中的重要性。实验结果显示，这些方法在多个基准数据集上取得了显著效果。
延伸解读
方法核心：多角度扰动与特征级增强
CPerb 方法通过水平和垂直操作对训练数据进行多路扰动，从不同角度学习相同语义类别的样本，并引入 MixPatch 特征级扰动进一步增加数据多样性。这种设计旨在弥补单域训练中数据多样性不足的问题，帮助模型学习更鲁棒的域不变特征。
因果不变性学习的作用
文章指出，通过因果框架对数据生成过程进行表征，可以学习抗干扰风格变量的样式不变表示，从而提高模型在未知域上的泛化性能。这种方法在图像分类和语义分割等任务上已取得最新成果，并可通过特征蒸馏避免遗忘真实领域的语义知识。
上下文信息提升预测能力
引入上下文信息——一组数据点的排列不变表示——可以改善深度学习模型在新领域或生产环境中的预测能力。理论分析和实证评估证明了其有效性，并且该方法能选择兼具预测性和鲁棒性的模型，避免二者之间的权衡问题。
现实场景中的泛化挑战
基于多中心临床数据的研究表明，当前领域泛化方法在现实医学影像数据上并不总能显著提升性能，甚至可能因真实世界偏差而失效。但在某些临床时间序列场景中，这些方法仍能带来一定提升，提示实际应用中需谨慎评估并采用最佳实践。
Q&A
CPerb方法是如何增强训练数据多样性的？
CPerb方法通过水平和垂直操作以及MixPatch特征级扰动来增强训练数据的多样性。
因果不变性学习在模型泛化中有什么作用？
因果不变性学习通过对数据生成进行表征，帮助学习抗干扰风格变量的样式不变表示，从而提高模型的泛化性能。
上下文信息如何改善深度学习模型的预测能力？
上下文信息作为一组数据点的排列不变表示，可以共同学习于标准监督学习目标，为未知结果提供增量信息，从而改善模型的预测能力。
数据扩增在提高模型泛化性能中有何重要性？
数据扩增和特征扰动在提高模型泛化性能中至关重要，尤其是在处理领域内数据缺失的问题时。
CPerb方法的实验结果如何？
实验结果表明，CPerb方法在多个基准数据集上取得了显著效果，改善了模型在未见域上的表现。
如何解决单域广义化中的训练数据多样性问题？
通过采用CPerb方法和数据扩增技术，可以有效增强训练数据的多样性，从而解决单域广义化中的问题。
