扩展大型语言模型至新语言:以Llama和波斯语适应为案例

💡 原文英文,约100词,阅读约需1分钟。
📝

内容提要

本研究提出了一种多阶段的参数高效微调方法,旨在将波斯语融入Llama模型,提高其在波斯语分类任务中的准确性,同时对英语任务无负面影响,甚至有所改善。

🎯

关键要点

  • 本研究提出了一种多阶段的参数高效微调方法。
  • 该方法旨在将波斯语融入Llama模型。
  • 研究目标是提高模型在波斯语分类任务中的准确性。
  • 该方法对英语任务没有负面影响,甚至有所改善。
  • 研究解决了大型语言模型在低资源语言上的不足。
  • 通过双语数据对齐,提升了模型的性能。
➡️

继续阅读