Stability AI开源StableLM-7B语言模型 后续将推出15~65B模型
原文中文,约600字,阅读约需2分钟。
📝
内容提要
Stability AI开源了基于The Pile数据集训练的新模型StableLM,提供3B和7B参数版本,后续还将推出更大规模的模型。模型上下文长度为4096个tokens,使用Stanford Alpaca进行微调,已在Hugging Face上线。但测试效果一般,中文对话略微混乱,需要更多迭代。
🎯
关键要点
-
Stability AI开源了新模型StableLM,基于The Pile数据集训练。
-
StableLM-alpha提供3B和7B参数版本,未来将推出更大规模的模型。
-
模型上下文长度为4096个tokens,使用Stanford Alpaca进行微调。
-
模型已在Hugging Face上线,但测试效果一般,中文对话略显混乱。
-
项目地址和在线测试链接已提供。
🏷️