SR-CIS: 自反映增量系统与解耦记忆和推理
原文中文,约500字,阅读约需2分钟。发表于: 。在当前深度学习模型面临快速学习新知识并保留旧记忆的挑战时,我们从人类记忆和学习机制中获得灵感,提出了自反思互补增量系统 (SR-CIS)。通过使用自信度感知的在线异常检测机制,在 SR-CIS 中,由拆分的互补推理模块 (CIM) 和互补记忆模块 (CMM) 组成,CIM 实现了快速推理的小模型和慢速思考的大模型,CMM 包括任务特定的短期记忆 (STM) 区域和通用的长期记忆 (LTM)...
研究人员提出了自反思互补增量系统 (SR-CIS),用于解决深度学习模型快速学习新知识并保留旧记忆的挑战。该系统通过自信度感知的在线异常检测机制实现稳定的增量记忆,并在多个标准及小样本增量学习基准测试中超过现有竞争性基准。