本研究提出了一种新方法——数据感知单模采样,以解决多模态学习中的模态失衡问题。实验结果表明,该方法的性能优于多种基线。
AIxiv专栏报道了多模态连续学习(MMCL)的进展及其面临的挑战,如灾难性遗忘、模态失衡和高计算成本。研究者提出了基于正则化、架构、重放和提示的方法来应对这些问题,未来可探索更多模态交互和高效微调的方向。
该文章介绍了CMSFed,一种解决多模态联邦学习中模态失衡问题的客户端模态选择方案。通过选择性地使用不同模态的本地数据参与训练和聚合,减轻全局模型的模态失衡,并引入新的局部训练损失函数来增强弱模态并调整特征空间差异。该方案还设计了模态级梯度解耦方法来维持选择过程中的梯度差异,并根据每次迭代中的本地模态失衡平衡多模态联邦学习。实验证明了CMSFed在多模态数据利用中的有效性。
完成下面两步后,将自动完成登录并继续当前操作。