频域中的持续学习
原文中文,约400字,阅读约需1分钟。发表于: 。本研究解决了持续学习中训练效率不足的问题,特别是在资源有限的场景下。创新性地提出了频域持续学习框架(CLFD),通过小波变换将输入特征映射到频域,从而有效减少输入特征图的大小,并优化输出特征的选择。实验证明,CLFD显著提升了最先进方法的准确性和训练效率,最高准确度提高6.83%,训练时间减少2.6倍。
研究探讨了动态稀疏训练(DST)在连续学习中的影响。结果显示,低稀疏度下Erdos-Renyi Kernel(ERK)初始化更有效,高稀疏度下均匀初始化更稳健。增长策略的效果取决于初始化和稀疏度。DST的适应性可能提升连续学习效果。