Kimi的K2开源语言模型支持动态资源可用性和新优化器

Kimi的K2开源语言模型支持动态资源可用性和新优化器

InfoQ InfoQ ·

Kimi发布了K2,一个拥有320亿参数的大型语言模型,采用新优化器MuonClip,解决了训练不稳定性。K2在推理和编程基准测试中表现优异,支持动态资源利用,具备高效推理能力,并在商业使用上有特定要求。

原文英文,约900词,阅读约需3分钟。
阅读原文