Mamba-FSCIL: 选择性状态空间模型的动态适应用于少样本类增量学习
内容提要
本文探讨了少样本类增量学习（FSCIL）的最新进展，提出了多种新方法以解决过拟合、记忆约束和模型偏差等问题。研究介绍了C-FSCIL架构、在线少样本增量学习（O-FSCIL）方法及基于分离学习的持续演化分类器（CEC）框架，均在多个数据集上取得了优异的性能，推动了该领域的发展。
延伸解读
FSCIL 的五大子领域划分
文章将少样本类增量学习（FSCIL）的研究划分为五个子领域：传统机器学习方法、元学习方法、特征和特征空间方法、重放方法和动态网络结构方法。这一分类有助于读者理解不同方法的核心思想与适用场景，例如元学习方法侧重快速适应，重放方法依赖记忆存储，而动态网络结构方法则通过调整网络结构来适应新类。
记忆约束与压缩效率的平衡
C-FSCIL 架构通过超维嵌入和异构存储策略，在几乎不牺牲精度的情况下实现了很高的压缩比。这表明在资源受限的场景中，可以通过改进类向量表示和存储策略来缓解记忆约束，为实际部署提供了参考。
在线学习与超低功耗实现
O-FSCIL 方法在 CIFAR100 基准上达到 68.62% 的平均准确率，并能在 60 mW 的 GAP9 微控制器上以仅 12 mJ 的能量实现在线学习。这展示了 FSCIL 在边缘设备上的可行性，为低功耗持续学习应用提供了实例。
缓解模型偏差与知识遗忘的策略
针对模型偏差问题，有研究通过激发映射能力、双特征分类和自优化分类器来显著减轻偏差；而 CEC 框架则采用分离学习策略，仅更新分类器以避免表示的知识遗忘。这些方法从不同角度提升了 FSCIL 的稳定性和性能。
Q&A
少样本类增量学习（FSCIL）是什么？
少样本类增量学习（FSCIL）是一种机器学习方法，旨在通过有限的样本数据逐步学习新任务，同时保持对先前学习内容的记忆。
C-FSCIL架构如何解决记忆约束问题？
C-FSCIL架构通过超维嵌入和异构存储策略来解决记忆约束问题，并提高类向量表示的质量。
在线少样本增量学习（O-FSCIL）方法的优势是什么？
O-FSCIL方法利用预训练和元学习特征提取器，能够在少量标记示例下扩展推理能力，并在不忘记先前类别的情况下实现高准确率。
如何解决少样本增量学习中的模型偏差问题？
通过激发映射能力、双特征分类和自优化分类器等步骤，可以显著减轻模型偏差问题。
绝招框架在FSCIL中有什么作用？
绝招框架结合了八个关键技巧，改善了FSCIL的稳定性、适应性和整体性能，建立了新的最先进技术。
基于分离学习的持续演化分类器（CEC）框架的优势是什么？
CEC框架通过在每个增量会话中只更新分类器，避免了知识遗忘问题，并优化图参数以构建持续的上下文信息传递网络。
