本研究探讨了小型语言模型在中等资源语言中的适应性,特别是如何有效利用语言特定知识。通过冰岛语的案例研究,提出在前馈层和瓶颈适配器中使用LoRA以增加可训练参数,从而显著提升语言适应性能,尤其在0-shot摘要任务中表现优异。
完成下面两步后,将自动完成登录并继续当前操作。