元脑企智一体机已率先完成对Kimi K2万亿参数大模型的适配支持

元脑企智一体机已率先完成对Kimi K2万亿参数大模型的适配支持

💡 原文中文,约400字,阅读约需1分钟。
📝

内容提要

浪潮信息的元脑企智一体机已成功适配Kimi K2万亿参数大模型,单用户输出速度达到70 tokens/s。Kimi K2使用MuonClip优化器,参数总量为1万亿,需至少1TB显存,并搭载FP8计算引擎,支持高速并行通信和多用户访问。

🏷️

标签

➡️

继续阅读