选择与概括：选择性双教师知识迁移用于视觉语言模型的持续学习

大规模视觉语言模型（VLMs）展示了对未见域数据具有强大的零样本泛化能力。为了解决适应预训练的VLMs时容易忘记以前学到的知识并降低零样本分类能力的问题，提出了一种选择性双教师知识迁移框架，通过测量双教师VLMs的特征差异来执行选择性知识蒸馏机制，以缓解灾难性遗忘并保留零样本能力。实验证明该框架对于防止灾难性遗忘和零样本退化的最新持续学习方法是有利的。