➡️
继续阅读
-
Kimi K3 模型结构（8）：训练并行，一步训练里谁在等谁
本文介绍Kimi K3模型预训练的并行系统设计，聚焦MoE层expert并行。核心是MoonEP方案：每个rank预留E/R个冗余expert槽位，确保任...
-
HyperAI 上新丨MCP接入开发工作流；PyTorch/AI for Beginners/TVM等系列教程上线；AI顶会资源检索功能再升级
HyperAI平台推出三项更新：上线MCP服务器，支持在Claude Code和Cursor中通过自然语言管理算力、数据集等资源；新增AI顶会（如AAAI...
-
迅策科技发布TokenCloud一站式AI模型训推算力平台
迅策科技发布TokenCloud一站式AI模型训推算力平台，以异构算力为基础，构建四层协同生态，打通数据到Token全链路。平台支持GPU、NPU等统一调...
-
Kimi K3 模型结构（10）：RL 与服务，状态住在哪里
本文介绍Kimi K3模型在1M上下文强化学习与线上服务中的系统设计，核心是状态管理。KV块和KDA状态通过write-back策略在GPU与DRAM池间...
-
Kimi K3 模型结构（9）：显存，把 2.8T 塞进 GPU
本文详解Kimi K3模型训练中的显存优化策略，通过账本形式分析权重、激活等内存占用，并介绍六项关键技术：均衡PP rank激活、统一激活管理器、MoE反...
-
DeepSeek-V4 模型结构（7）：结构决定系统
DeepSeek-V4模型采用混合压缩注意力（mHC），将KV缓存分为状态缓存和分页缓存，分别管理滑窗KV与压缩条目。上下文并行通过点对点通信和all-g...
