本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态（FlashKDA、设备内上下文并行、状态回滚）处理固定大小状态；上下文并行通过可结合前缀扫描分解，避免直接加和；Block AttnRes优化内存通信；Stable LatentMoE融合GEMM与token中心解码；混合架构前缀缓存解耦粒度，支持512-token边界复用；视觉编码器动态并行并填充流水线气泡。核心是将固定权重累加转为数据相关选择。

本文介绍Kimi K3模型结构：采用3:1混合，每四层含一层Gated MLA（无位置编码、满秩sigmoid门），其余为KDA层。MLA低秩压缩KV至576维/token，KDA状态固定约232MB。3:1比例经实验选为质量与吞吐平衡点，1M上下文时KV cache约27.6GB，decode速度约为纯MLA的2.2倍。

本文介绍Kimi K3模型中KDA（Kimi Delta Attention）的递推形式，从线性注意力、DeltaNet到Gated DeltaNet演进而来。KDA通过逐通道衰减和擦除写入机制更新状态，每头128×128矩阵，不依赖上下文长度。它采用逐头RMSNorm和满秩sigmoid输出门，在合成任务中表现优于基线，并天然具备位置编码能力。

Kimi K3是2.78T参数、104.2B激活的93层MoE模型，支持1M上下文及图像视频输入。其结构创新分三方面：序列用KDA与Gated MLA混合，深度引入Attention Residuals，宽度采用Stable LatentMoE，并配视觉编码器MoonViT-V2。相比K2，扩展效率提升约2.5倍。文章详解层排布、维度配置及前向流程，为后续技术解读奠定基础。

Kimi K3模型采用KDA机制，通过0.22GB的在线学习状态矩阵在对话中实时更新记忆，实现跨会话持续学习。它删除位置编码，用衰减体现顺序，支持泛化联想。未来可通过状态保存、分层记忆和外挂数据库，让AI记住用户，但容量扩大面临延迟和工程挑战。

Kimi K3采用KDA与MLA混合注意力架构，引入循环状态缓存，改变传统KV缓存语义。Mooncake与SGLang、vLLM、TokenSpeed合作，实现KDA感知的检查点管理、跨实例缓存复用及统一数据传输平面，支持百万级长上下文推理，降低冗余计算，提升多轮对话和智能体任务效率。