为少样本示例选择设计信息指标

💡 原文中文,约200字,阅读约需1分钟。
📝

内容提要

本文研究了PLM的few-shot学习,通过调参生成大量新训练样本,使用加权最大似然度量进行训练,取得了比现有方法更好的结果。在GLUE基准测试中超过了无增加方法5+平均点数和增加方法3+平均点数。

🎯

关键要点

  • 本文研究了PLM的few-shot学习。
  • 通过调参生成大量新训练样本。
  • 使用加权最大似然度量进行训练。
  • 鼓励生成器生成分类标签的样本。
  • 使用正则化fine-tuned在小样本和合成样本上取得更好结果。
  • 在GLUE基准测试中超过无增加方法5+平均点数和增加方法3+平均点数。
➡️

继续阅读