Stability AI开源StableLM-7B语言模型 后续将推出15~65B模型

💡 原文中文,约600字,阅读约需2分钟。
📝

内容提要

Stability AI开源了基于The Pile数据集训练的新模型StableLM,提供3B和7B参数版本,后续还将推出更大规模的模型。模型上下文长度为4096个tokens,使用Stanford Alpaca进行微调,已在Hugging Face上线。但测试效果一般,中文对话略微混乱,需要更多迭代。

🎯

关键要点

  • Stability AI开源了新模型StableLM,基于The Pile数据集训练。

  • StableLM-alpha提供3B和7B参数版本,未来将推出更大规模的模型。

  • 模型上下文长度为4096个tokens,使用Stanford Alpaca进行微调。

  • 模型已在Hugging Face上线,但测试效果一般,中文对话略显混乱。

  • 项目地址和在线测试链接已提供。

🏷️

标签

➡️

继续阅读