当基于提示的增量学习无法满足强预训练时
原文中文,约200字,阅读约需1分钟。发表于: 。本研究提出了一种可学习的自适应提示生成器(APG),通过将提示的检索和学习过程统一为可学习的提示生成器,以降低任务之间的差距对模型性能的负面影响,在无(强)预训练条件下,在递增学习中明显优于先进方法。
本文介绍了GraphPrompt框架,用于图上的预训练和提示,将预训练和下游任务统一到一个通用的任务模板中。通过学习提示,帮助下游任务定位预训练模型中最相关的知识。作者在五个公共数据集上进行了实验评估和分析。