多语能力的祝福:Poro 34B
💡
原文中文,约300字,阅读约需1分钟。
📝
内容提要
介绍了Orion-14B,一个包含140亿参数的多语言大型语言模型集合,通过数据调度方法在多样文本语料库中训练基础模型,并对特定用例进行精细调整,评估结果显示在广泛任务中实现了最先进性能。提供了Orion-14B模型系列及相关代码,旨在促进该领域的研究和应用。
🎯
关键要点
- Orion-14B是一个包含140亿参数的多语言大型语言模型集合。
- 使用数据调度方法在多样文本语料库中训练基础模型。
- 对话和特定用例的模型进行了精细调整。
- 评估结果显示Orion-14B在广泛任务中实现了最先进的性能。
- 公开提供Orion-14B模型系列及相关代码,促进研究和应用。
➡️