➡️
继续阅读
-
Kimi K3 模型结构(4):深度维度,Attention Residuals
本文解析Kimi K3模型中的Attention Residuals(注意力残差)结构。该机制将残差连接视为深度方向上的RNN,通过可学习伪query对e...
-
一台 3D 打印机,为什么藏着 GPT-6 最大的野心?|硬哲学
GPT-6 Astra宣传片展示了从画黄色圆圈到生成3D模型,最终通过拓竹P1S打印机变成实物的过程,体现AI从屏幕内容生成进入现实操作。文章认为GUI是...
-
流水线并行:1F1B、虚拟段与气泡
本文介绍流水线并行中气泡的产生与优化。将模型按层切段、批次分微批后,段间等待形成气泡。四代调度各改一点:GPipe先全前向再全反向,显存高;1F1B改交替...
-
在实地录音中探索全球
Earth Garden是一款基于Freesound环境音频的互动应用,灵感源自Radio Garden,让用户通过旋转地球聆听全球各地的实地录音,如海浪...
-
并行策略总览:六个维度各切什么、怎么通信
本文介绍大模型并行训练的核心概念,将DP、TP、SP、PP、EP、CP六种并行方式按切分维度、显存减少、通信开销和等待关系列表对比。并行本质是切分模型并引...
-
Kimi K3 模型结构(10):RL 与服务,状态住在哪里
本文介绍Kimi K3模型在1M上下文强化学习与线上服务中的系统设计,核心是状态管理。KV块和KDA状态通过write-back策略在GPU与DRAM池间...