小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
The First Review of Multimodal Continual Learning, Jointly Released by CUHK, Tsinghua, and UIC

AIxiv专栏报道了多模态连续学习(MMCL)的进展及其面临的挑战,如灾难性遗忘、模态失衡和高计算成本。研究者提出了基于正则化、架构、重放和提示的方法来应对这些问题,未来可探索更多模态交互和高效微调的方向。

The First Review of Multimodal Continual Learning, Jointly Released by CUHK, Tsinghua, and UIC

机器之心
机器之心 · 2024-11-13T06:19:15Z

本文提出了一种有效的框架来解决深度神经网络中的灾难性遗忘问题,通过优化神经结构和参数学习,显著提高了连续学习的性能。研究表明,该方法在多个数据集上优于现有基线,有效缓解遗忘问题,并在长时间序列任务中表现出色。

减缓持续学习中的遗忘

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-11T00:00:00Z

本文探讨了提升机器人在连续学习中的表现,特别是在长期任务规划方面。研究利用大型语言模型和视觉-语言模型,将自然语言指令转化为可执行的机器人任务,并通过新框架和算法有效应对遗忘问题,实现知识转移。

CLIMB:基于语言指导的任务规划持续学习框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-17T00:00:00Z

该论文探讨了连续学习中的灾难性遗忘问题,提出了生成回放、自我监督技术和对比学习等新方法,显著提升了学习性能。研究表明,选择性重演和适应性记忆回放等策略有效减少遗忘,优化了神经网络在在线学习中的表现。

持续学习:通过自适应对比重放减少遗忘,提高OOD泛化能力

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

该研究提出了一种新方法,通过贝叶斯推断框架解决神经网络在连续学习中的灾难性遗忘与可塑性损失之间的权衡。利用拉普拉斯近似构建高斯后验度量,提升模型性能,无需重新访问数据。

Efficient Weight-Space Laplace-Gaussian Filtering and Smoothing for Sequential Deep Learning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

该研究探讨了无监督学习的连续学习技术,提出LUMP技术以缓解灾难性遗忘。研究表明,非参分类器在低计算开销下可实现合理性能,并提出新的基准评估CL策略。通过强化经验回放和动态稀疏训练,提升模型的预测一致性和学习效果。此外,提出CLAMP方法,利用预训练语言模型显著减少遗忘,优于现有算法。

频域中的持续学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

本文研究了记忆基础连续学习的特点与不足,提出了两种扰动方法以提升性能。通过实证研究,验证了扩散模型在连续学习中的应用,提出了C-LoRA方法解决遗忘问题,并引入STAMINA增强学习性能。此外,研究探讨了大规模模型的个性化策略,评估了大型语言模型的适应性,最终提出了一种新方法实现文本到图像的持续个性化。

低秩持续个性化扩散模型

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-07T00:00:00Z

本研究探讨在连续学习中如何个性化文本到图像扩散模型,尤其是在无法访问旧数据的情况下。提出利用扩散分类器分数进行正则化,以保留旧概念并有效获取新概念,结果显示该方法在多种评估中优于现有技术,实现零存储和参数开销。

Mining Your Own Secrets: Using Diffusion Classifier Scores for Continual Personalization of Text-to-Image Diffusion Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-01T00:00:00Z

本文介绍了一种新型神经网络连续学习算法UCL,解决了正则化方法的主要问题,表现优异。研究了多种持续学习方法及其在视频和图像识别中的应用,提出了有效的遗忘问题解决方案,并展示了新方法在减少遗忘和提高准确率方面的优势。

连续人类姿态估计以增量整合关键点和姿态变化

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-30T00:00:00Z

本文探讨了核方法在机器学习中的应用,重点分析了随机傅里叶特征的优势与改进。研究表明,随机傅里叶特征在处理大规模数据集时能有效降低计算成本,并提出了基于非平稳谱核的学习框架,验证了其在连续学习任务中的有效性。此外,研究解决了傅里叶嵌入在神经网络训练中的高泛化误差问题,显示出其在噪声环境下的稳健性。

利用稀疏傅里叶域学习扩展连续核

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-15T00:00:00Z

本文介绍了一种基于生成式回放的无监督分割方法GarDA,旨在提升医学影像分析中模型对新类别的分割性能。文章综述了连续学习技术在医学影像中的应用,探讨了面临的挑战与未来发展方向,并强调了模型公平性和内存效率的重要性。

隐私意识数字病理中的持续领域增量学ä¹

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-10T00:00:00Z

本文介绍了一种结合自然语言和模仿学习的方法,显著提高了机器人任务的成果并降低了语言注释成本。实验验证了该方法在机器人操作策略学习中的有效性,尤其是在真实世界应用中的表现。同时,研究探讨了连续学习模型与人类交互的信任问题,以及如何通过大型语言模型提升机器人技能的学习效率。

通过对话实现持续的技能与任务学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-05T00:00:00Z

本文介绍了一种新的基于神经网络的连续学习算法UCL,旨在解决灾难性遗忘和噪声标签问题。通过引入新的抽样策略和分类器,实验结果表明该算法在多种学习任务中表现优异,显著减少遗忘现象并提高准确率。

无先验平衡重放:基于不确定性引导的长尾持续学习的水库抽样

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-27T00:00:00Z

本研究提出了混合模态适应方法(MMA),通过轻量级适配器模块实现图像与语言模型的联合优化,提升训练效率和性能。同时,介绍了PROOF模型以解决视觉语言模型的遗忘问题,Dynamic Visual Prompting(DVP)方法有效结合预训练语言模型与视觉语言任务。Prompt-based Continual Learning(LGCL)和ConvPrompt模型进一步提升了连续学习性能,展示了在多模态任务中的应用潜力。

CluMo:基于聚类的模态融合提示在视觉问答中的持续学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-21T00:00:00Z

本文提出了一种CLNP方法,通过神经模型稀疏化实现全生命周期学习,避免灾难性遗忘。实验证明该方法在连续学习中优于现有技术,并引入生物启发机制以提升表现。同时,研究探讨了动态稀疏训练对连续学习的影响,强调适应性在提升学习效果中的重要性。

稀疏增长:解决任务无关的持续学习中的增长诱导遗忘问题

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-20T00:00:00Z

本研究提出了一种新的任务导向对话系统框架,强调对话状态跟踪的可扩展性和知识转移。通过TRADE和DCL等方法解决了连续学习中的遗忘问题,提升了系统在不同领域的性能。实验结果表明,该方法在意图检测和状态跟踪任务中表现优越,推动了对话系统的研究进展。

通过选择理由蒸馏实现持续对话状态跟踪

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-19T00:00:00Z

本研究探讨了连续学习中的稳定性与可塑性问题,提出了AFAF、CoSCL、AdNS等新方法,以提高模型的泛化能力和记忆稳定性。实验结果表明,这些方法在不同任务和环境中表现优异,推动了连续学习领域的发展。

通过课程驱动的持续DQN扩展缓解自适应列车调度中的稳定性-可塑性困境

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-19T00:00:00Z

本文介绍了多种针对连续学习的预训练模型方法,如SPeCiaL、ConFiT和HiDe-Prompt。这些方法通过优化学习目标、微调技术和自监督学习,提升了知识保留能力,减少了遗忘现象,并在不同数据集上表现优异。

SLCA++: 释放顺序微调在预训练持续学习中的力量

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-15T00:00:00Z

本文探讨了连续学习中的收敛性和灾难性遗忘问题,提出了类梯度投影(CGP)和弹性多梯度下降(EMGD)等方法,以提升模型在新任务中的表现并减少对旧任务的负面影响。同时,介绍了基于回放的持续学习策略和自我监督技术,展示了其在不同场景下的有效性和优势。

一种有效的动态梯度校准方法用于持续学习

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-30T00:00:00Z

本研究提出了一种基于强化经验回放的连续学习方法,旨在提高模型的预测一致性并有效保留知识。实验结果表明,该方法在多个图像分类数据集上优于现有技术,尤其在在线增量学习任务中表现突出。

ER-FSL: 在线连续学习的特征子空间学习经验回放

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-17T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码