扩展大型语言模型至新语言:以Llama和波斯语适应为案例
💡
原文英文,约100词,阅读约需1分钟。
📝
内容提要
本研究提出了一种多阶段的参数高效微调方法,旨在将波斯语融入Llama模型,提高其在波斯语分类任务中的准确性,同时对英语任务无负面影响,甚至有所改善。
🎯
关键要点
- 本研究提出了一种多阶段的参数高效微调方法。
- 该方法旨在将波斯语融入Llama模型。
- 研究目标是提高模型在波斯语分类任务中的准确性。
- 该方法对英语任务没有负面影响,甚至有所改善。
- 研究解决了大型语言模型在低资源语言上的不足。
- 通过双语数据对齐,提升了模型的性能。
➡️