多个协变量偏移和不平衡的图像数据集汇集
内容提要
本文探讨了在神经影像学和机器学习中处理数据集偏差的方法，提出了基于加权熵的目标函数和数据集谐波化等新技术，以提高模型的准确性和公平性。这些方法在处理不平衡数据和协变量转移方面表现出显著改进。
延伸解读
协变量偏移的实际影响与应对思路
文章指出，测试数据中的协变量偏移会显著降低模型的准确性和公平性。为此，作者提出基于加权熵的预测准确性目标与表示匹配损失相结合的新型目标函数，并引入不对称协变量偏移的新设置。实验表明，该方法在公平性与准确性的权衡上优于基线，且理论上加权熵项和预测损失可近似协变量偏移时的测试损失，且不依赖重要性采样的方差。
数据不平衡与分布转移的专门技术
针对数据不平衡，文章介绍了一种利用深度感知嵌入和聚类计算样本似然的方法，并使用广义焦点损失在训练中加权样本。在自动驾驶数据集KITTI和nuScenes上，该方法改进了3D物体检测，在KITTI的骑车者类别上实现了超过200%的AP增益，表明其对罕见类别和较小数据集特别有益。此外，文章还研究了多样性转移和相关性转移对深度学习模型的影响，并提出综合协议进行分析。
神经影像学中的数据集偏差处理
在神经影像学领域，文章通过结合17项研究的35320个磁共振成像脑图像来研究数据集偏差，并提出数据集谐波化方法以消除偏差及控制混淆因素。同时，文章还提出了变换表示学习方法，在考虑多个混淆变量影响影像测量数据的情况下，实现对多个神经影像数据集的分析，旨在提高模型的准确性和公平性。
统一理论框架与信息几何视角
文章介绍了使用统一框架检测数据移位类型并量化其强度，以改进预测方法，适用于分类和回归任务。在理论方面，文章统一分析了具有协变量转移的一般非参数方法在再生核希尔伯特空间下的理论，得出了收敛速度，并与现有最优结果吻合。此外，文章表明协变量转移领域的方法都可归为信息几何范畴，所提方法能更高效地进行参数搜索和适应数据。
Q&A
如何处理神经影像学中的数据集偏差？
可以通过数据集谐波化的方法来消除偏差并控制混淆因素。
什么是加权熵的目标函数？
加权熵的目标函数是一种新型组合目标函数，用于优化预测准确性和公平性之间的权衡。
如何解决机器学习中的数据不平衡问题？
可以通过深度感知嵌入和聚类计算样本似然，并使用广义焦点损失函数对样本进行加权。
分布转移对深度学习模型性能的影响是什么？
分布转移会显著降低模型的准确性和公平性表现，尤其是在测试数据中。
什么是协变量转移？
协变量转移是指在测试数据中，混淆变量的变化可能导致模型性能下降的现象。
如何量化数据移位的强度？
可以使用统一框架来检测数据移位类型并量化其强度，以改进预测方法。
