PIP: 针对联邦类增量学习的原型注入提示
内容提要
本文介绍了应对少样本类增量学习（FSCIL）中灾难性遗忘问题的新方法，包括FCILPT、PL-FSCIL和CPE-CLIP。这些方法在多个数据集上显著提升了准确性，展示了实际应用潜力。
延伸解读
方法演进：从视觉提示到多模态融合
文章梳理了少样本类增量学习（FSCIL）中多种基于提示的方法。早期如PL-FSCIL首次将视觉提示引入FSCIL，利用ViT模型；随后CPE-CLIP和LP-DiF等方法借助CLIP等视觉-语言模型，通过提示学习和特征重放提升性能。这些方法逐步从单一视觉提示转向多模态知识利用，反映了该领域利用预训练模型缓解灾难性遗忘的趋势。
核心挑战：灾难性遗忘与过拟合的平衡
FSCIL面临旧类遗忘和新类过拟合的双重挑战。文章提到的方法如FCILPT通过提示编码任务相关与不相关知以减轻遗忘，ASP框架防止基础任务过拟合，CPP通过对比原型提示解决性能恶化。这些方案共同表明，在增量学习中平衡知识保留与适应是关键，而提示机制提供了一种参数高效的解决途径。
性能验证：多数据集基准测试
文章列举的方法在CIFAR-100、Mini-ImageNet、Tiny-ImageNet和CUB-200等标准数据集上进行了验证。例如FCILPT在三个数据集上取得显著准确性改进，PL-FSCIL在CIFAR-100和CUB-200上展示竞争性能，CPE-CLIP在减少参数和训练成本的同时提升性能。这些基准测试结果增强了方法的可信度，并便于横向比较。
实际应用潜力：低数据与低成本
文章强调这些方法在缺乏高质量数据的实际场景中具有潜力。PL-FSCIL利用预训练ViT，CPE-CLIP借助CLIP的泛化能力，均减少了对大量标注数据的依赖。同时，CPE-CLIP显著降低了可学习参数和训练成本，CPP无需排练缓冲区，这些特性使得方法更易于部署在资源受限或数据隐私敏感的环境中。
Q&A
FCILPT 方法是如何减轻灾难性遗忘的？
FCILPT 方法通过使用提示来编码与任务相关和不相关的知识，从而减轻旧类别的灾难性遗忘。
PL-FSCIL 方法的创新之处是什么？
PL-FSCIL 方法首次在 FSCIL 中使用视觉提示，利用信息提示和预训练视觉转换器（ViT）模型来增强模型性能。
CPE-CLIP 方法如何提高少样本类别增量学习的性能？
CPE-CLIP 方法利用 CLIP 预训练阶段的知识，显著提高了少样本类别增量学习的性能，并减少了可学习参数和训练成本。
Attention-aware Self-adaptive Prompt (ASP) 框架的作用是什么？
ASP 框架防止基础任务的过拟合，并在学习新类别和减轻遗忘方面超越了现有方法。
对比原型提示 (CPP) 方法的优势是什么？
CPP 方法通过任务特定的提示调整，有效解决了性能恶化问题，并在类增量学习基准测试中表现出色。
这些方法在数据集上的表现如何？
这些方法在 CIFAR-100、Mini-ImageNet 和 Tiny-ImageNet 数据集上显著提升了准确性，展示了实际应用潜力。
