有效测试时间提示调整的多样化数据增强与扩散

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

我们提出了多任务提示调整(MPT)方法,通过从多个特定于任务的源提示中提取知识来学习一个单一可传输的提示,并通过乘性低秩更新将其适应每个下游目标任务。实验结果表明,该方法在自然语言处理数据集上优于最先进的方法,尽管只有0.035%的特定于任务的参数被调整。

🎯

关键要点

  • 提出了多任务提示调整(MPT)方法。

  • 该方法通过从多个特定于任务的源提示中提取知识来学习一个单一可传输的提示。

  • 学习共享提示的乘性低秩更新,以适应每个下游目标任务。

  • 在23个自然语言处理数据集上进行的实验表明,该方法在某些情况下优于最先进的方法。

  • 尽管只有0.035%的特定于任务的参数被调整,但效果显著。

➡️

继续阅读