通过流形扩展回放进行持续学习
原文中文,约200字,阅读约需1分钟。发表于: 。我们提出了一种新的回放策略,称为 Manifold Expansion Replay (MaER),通过扩展知识表示的隐含流形,改善模型的鲁棒性和表达能力,以解决在学习新任务过程中由于老知识和新知识之间不平衡导致的灾难性遗忘问题。我们通过对 MNIST、CIFAR10、CIFAR100 和 TinyImageNet 进行广泛实验验证,表明提出的方法在继续学习设置中显著提高了准确性,优于现有技术水平。
该研究提出了变分原型重放方法,用于避免少样本连续学习中的灾难性遗忘。该方法通过学习可变原型来表示同一类的样本嵌入,并将类代表原型分开。同时,通过重放样本来避免灾难性遗忘。相较于最近的连续学习方法,该方法更具内存效率且能适应更多类的新任务。