本文介绍了一种无监督域提示蒸馏框架PromptKD,旨在通过未标记的领域图像将教师模型的知识转移到轻量级目标模型。该方法利用少量提示符令牌实现生成性语言模型的知识转移,实验结果显示其性能达到最先进水平。此外,提出的广义领域提示学习(GDPL)框架能够在特定领域中有效转移视觉识别能力,减少对数据和资源的需求,推动可持续的视觉语言模型研究。
完成下面两步后,将自动完成登录并继续当前操作。