图学习在分布偏移下的研究:领域自适应、离域和连续学习的综合调查
内容提要
该综述回顾图机器学习中的分布外适应与领域适应研究,按学习范式和技术分类,涵盖图神经网络受分布变化影响、条件转移无监督适应、不变性学习与风险最小化、迁移学习理论、公平感知学习及领域泛化进展,并指出未来方向与挑战。
延伸解读
图分布偏移研究的演进脉络
从文中列举的文献时间线可以看出,图分布偏移研究经历了从早期迁移学习理论(2018年)到领域自适应(2020年)、公平感知学习(2020年),再到图领域适应专门综述(2022年)和OOD适应综述(2024年)的演进。这反映出该领域从通用理论向图结构数据特化、从单一范式向多范式融合的发展趋势,读者可据此把握技术成熟度的变化。
方法分类的多维视角
综述从学习范式和技术两个维度对图OOD适应方法进行分类,并依据在图机器学习流水线中的位置(数据、模型、学习策略)划分现有方法。这种分类方式有助于读者理解不同方法在流程中的介入点,例如基于条件转移的无监督适应作用于数据层面,而不变性学习与风险最小化则作用于模型或学习策略层面。
公平性与分布偏移的交叉挑战
文中指出,监督公平感知机器学习在面临源域到目标域分布变化时是一个新兴领域,需解决公正和无偏预测的挑战。该综述总结了六种常用方法,并列出公开数据集和评估指标。这表明公平性研究正从静态分布向动态偏移场景扩展,但实际部署中仍需关注方法在跨域时的公平性保持能力。
未来方向与开放问题
多篇文献均提及未来研究方向,包括图OOD适应的挑战、领域泛化的理论见解以及分布偏移在计算机视觉中的理论假设与部署差距。这些开放问题提示读者,尽管已有诸多进展,但图结构数据下的分布偏移仍缺乏统一的理论框架和鲁棒的评估标准,跨领域知识转移的可靠性有待进一步验证。
Q&A
图机器学习中的分布偏移问题是什么?
分布偏移是指训练数据和测试数据分布不一致,导致模型性能下降。在图机器学习中,图神经网络容易受到分布变化的影响,从而影响预测的鲁棒性。
图领域自适应有哪些主要方法?
图领域自适应方法包括基于条件转移的无监督领域自适应、基于不变性学习和风险最小化的方法、基于表示学习和样本重加权的误差界方法等。这些方法旨在实现跨图知识转移,减少泛化误差。
如何解决图神经网络在分布偏移下的泛化问题?
可以通过不变性学习和风险最小化来实现图神经网络对图结构数据的越域通用性预测和不确定性估计。此外,基于表示学习和样本重加权的算法框架也能减少泛化误差,并具有渐近一致性。
图领域适应有哪些公开数据集和评估指标?
综述中列出了可用于经验研究的公开数据集和评估指标,具体数据集和指标需参考原文。
领域泛化的定义和研究进展如何?
领域泛化旨在从多个源领域学习一个模型,使其能泛化到未见过的目标领域。过去十年,该方向在定义、方法和理论方面取得了进展,未来研究方向也有讨论。
公平感知机器学习在分布偏移下有哪些挑战?
公平感知机器学习在面临数据分布从源领域到目标领域的变化时,需要解决实现公正和无偏预测的挑战。综述总结了各种分布变化类型,并调查了六种常用方法。