ScaLearn: 通过学习缩放实现简单且高效率的任务迁移

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

该文介绍了一种新的Transformer架构,包括条件注意机制和任务条件模块,以促进权重共享和减少数据不平衡的负面影响。该模型在GLUE和26个NLP任务中表现出了最先进的结果。

🏷️

标签

➡️

继续阅读