本研究提出了一种名为StarFT的稀疏文本对齐正则化方法,旨在增强零样本模型的鲁棒性,解决微调时表现不稳的问题。实验结果表明,该方法在水鸟组转移场景中显著提高了模型的平均准确率和最差组准确率。
零样本模型在预训练时标签分布不匹配。研究者提出用最优传输方法调整预测结果,在多个零样本任务中提高了准确率,超过了大多数基线方法。
介绍了Lipsum-FT鲁棒微调算法,利用语言建模特性提高零样本模型在分布变化场景中的性能,实验证明其优于现有方法。
完成下面两步后,将自动完成登录并继续当前操作。