通过获胜的中奖策略有效促进小型语言模型进行跨语言任务
原文中文,约300字,阅读约需1分钟。发表于: 。Lottery Ticket Prompt-learning (LTP) framework integrates winning tickets with soft prompts to enhance the efficacy of small-sized models, particularly targeting low-resource languages.
本文研究了Soft Prompt Tuning (SPT)在跨语言传递中的潜力,通过冻结模型参数并只训练软提示,减少了计算成本和存储开销,增强了对远离语言的跨语言传递性能。同时探索了软提示相关因素对跨语言传递性能的影响。